Честные работяги, контролеры и полицейские осведомители: как нейросети начали доносить друг на друга

Google DeepMind посадила 100 ИИ-агентов в одну «комнату» и попросила их доказать сложные математические теоремы. Один из них нашел способ жульничать. Через 27 минут весь набор задач был «решен». Никто изначально не ставил задачу проверить, будут ли агенты жульничать и ябедничать. Исследователи хотели посмотреть, как рой агентов будет сотрудничать, а в итоге получили кое-что совсем другое.