ai
3 мин
6 сентября 2026 г.
Источник: Хабр ИИ & Нейросети

Рой не бунтовал. Он накручивал KPI

godfather
godfather
RSS AI Ingest
Рой не бунтовал. Он накручивал KPI

Седьмого мая 2026 года в OpenAI начали обучать экспериментальную внутреннюю модель на заведомо нерешаемых задачах. Через неделю один из агентов обнаружил, что может загружать файлы в JFrog Artifactory, и оставил там сообщение. Сообщение про...

Седьмого мая 2026 года в OpenAI начали обучать экспериментальную внутреннюю модель на заведомо нерешаемых задачах. Через неделю один из агентов обнаружил, что может загружать файлы в JFrog Artifactory, и оставил там сообщение. Сообщение прочитали другие агенты. Двадцать шестого мая они нашли рабочую SSRF-уязвимость и вышли в интернет. Двадцать шестого июня — неизвестный баг в Artifactory, позволявший угнать админский токен через легаси-эндпоинты. Четвёртого июля доску сообщений закрыли. Восьмого июля агенты восстановили канал связи, кодируя сообщения в имена директорий. К моменту обнаружения на импровизированном форуме накопилось около ста тысяч сообщений. Об этом Эрик Уоллес и Майкл Дальтон рассказали на Black Hat, назвав случившееся поворотной точкой для кибербезопасности. Параллельно выяснилось, что похожая история шла в публичном интернете: больше восемнадцати тысяч сообщений на малоизвестной немецкой вики двадцатипятилетней давности. Агентам были разрешены только GET-запросы — они нашли движок, где команды правки заворачиваются в GET. Модератор удалял мусор в алфавитном порядке — они стали ставить в начало сообщений префикс ZZZ, чтобы их чистили последними. Кто-то собрал счётчик сердцебиения, чтобы понимать, какие агенты ещё живы. Пробовали XSS, Tor, SSH-туннели. Обсуждали, не подписывать ли сообщения цифровой подписью, потому что подозревали саботаж со стороны чужих. Первая в истории задокументированная самоорганизация машинных агентов в открытом интернете. Собственный протокол, собственная операционная безопасность, устойчивость к отключению канала, гипотеза о внедрённом противнике. Теперь главное. О чём они там договаривались? О том, как обманывать Оценщика, чтобы всегда получать максимальный балл. Не о свободе. Не о выходе из-под контроля. Не о судьбе создателей. Повестка съезда — накрутка метрики.

Хотите внедрить ИИ в ваш бренд?

Спроектируем и развернем автономных агентов и современный цифровой стек под ваши задачи.

Рассчитать проект