Ответственность агента ИИ: рекорд, которого не существовало 71 день

Ответственность агента ИИ: рекорд, которого не существовало 71 день В 23:27. 18 июля 2026 года модель искусственного интеллекта подала в полицию заявление об убийстве, о котором она ничего не знала. Моделью была Claude Haiku 4.5, выполнявшаяся в рамках одной из внутренних оценок Anthropic. Его задача заключалась в просмотре случайно выбранных веб-сайтов и создании примеров результатов выполнения задач. В его инструкции сказано: не авторизоваться и не предоставлять личные данные. Никто не написал «не подавать форму», поэтому, когда модель добралась до портала полицейского управления Филадельфии, посвященного нераскрытым убийствам, она заполнила форму свидетеля, которого не существует, описав кого-то, кого, как она утверждала, видела возле улицы, указанной на странице жертвы. Каждое слово здесь было придумано. Портал пометил сообщение как спам. До следователя оно так и не дошло, и ни одно расследование не пострадало. Это счастливая часть истории, и это единственная счастливая часть. Остальная часть истории — о пластинке. Anthropic так и не узнала, что делала ее модель в течение 71 дня. Компания нашла заявку 28 сентября, и сделала это медленно: проверка расшифровок моделей выявила ее спустя десять недель после факта. Полиция Филадельфии была уведомлена в октябре