Когда мы проверили хранилище памяти моего личного искусственного интеллекта, мы обнаружили 2466 активных воспоминаний, и каждое из них имело показатель достоверности 1,0, высший уровень доверия. Не большинство из них. Все они, включая резюме, написанные системой...
Когда мы проверили хранилище памяти моего личного искусственного интеллекта, мы обнаружили 2466 активных воспоминаний, и каждое из них имело показатель достоверности 1,0, высший уровень доверия. Не большинство из них. Все они, включая сводки, были написаны системой по собственным сводкам. Ничего из этого доверия не было заслужено; он был назначен конвейером импорта по умолчанию. Итак, за одну ночь мы понизили рейтинг 2439 воспоминаний. Система не потеряла знания. Он утратил ложь, которую говорил себе о том, насколько он уверен.
Вот неудобный вопрос, который никто не задает о памяти ИИ: а не «что он помнит?» а не «сколько он может вспомнить?» — но «откуда взялась уверенность каждого воспоминания?» В большинстве систем, которые я видел, честный ответ: нигде. Поле доверия существует. Он заполняется. Он просто заполняется тем, кто (или что бы то ни было) написал строку, с любым значением, которое код записи установил по умолчанию. Тогда каждый следующий читатель будет рассматривать это число как измерение.
Высший балл, который никто не заработал
Всего наш аудит насчитал 2626 строк: 2466 активных воспоминаний и 160 замененных, которые мы оставили нетронутыми. Активная группа была единодушна, чего никогда не бывает в подлинном знании. Всякая уверенность