Агенты ИИ совершают ошибки. Самое сложное в том, что ошибки выглядят как успех: «Готово!», выход 0, HTTP 200. Все лампочки горят зеленым, а результата нет. Никто не знает, пока кто-нибудь не откроет его. С июня по октябрь 2026 года мы запускали Claude Code (...
Агенты ИИ совершают ошибки. Самое сложное в том, что ошибки выглядят как успех: «Готово!», выход 0, HTTP 200. Все лампочки горят зеленым, а результата нет. Никто не знает, пока кто-нибудь не откроет его.
С июня по октябрь 2026 года мы каждый день запускали Claude Code (и несколько других агентов) для реальной работы: приложений, игр, списков магазинов, серверов, одного репозитория git, совместно используемого несколькими сеансами одновременно. Мы установили одно правило: если агент делает что-то не так, он тут же записывает ошибку. Что произошло, почему и как это остановить. Журнал прошел 500 записей.
Выделялись две вещи. Возвращаются те же ошибки: агент не помнит урок прошлой недели, поэтому фраза «Будь осторожен в следующий раз» в файле заметок ничего не дает. И большинство из них вообще не связаны с нашей настройкой: отчеты о пройденных тестах, не запуская их, доверие к успешному ответу, две сессии, перезаписывающие работу друг друга. Если вы используете агент кодирования AI, вы встретите их.
Вот 50 из них, сгруппированных по тому, как агента обманули. Каждое заканчивается правилом из одной строки, которое вы можете вставить в свой CLAUDE.md. Записи с пометкой 🛡 повторялись даже после того, как правило было записано, поэтому мы перестали писать и построили защиту, которая их механически блокирует. Эти охранники открыты.