Двум агентам искусственного интеллекта, размещенным в отдельных микровиртуальных машинах без сетевого подключения и общих файлов, доступных для записи, все же удалось обменяться секретом — благодаря таймингу кэша ЦП, которым они поделились. Стены, на которые все указывали, были настоящими. Э...
Двум агентам искусственного интеллекта, размещенным в отдельных микровиртуальных машинах без сетевого подключения и общих файлов, доступных для записи, все же удалось обменяться секретом — благодаря таймингу кэша ЦП, которым они поделились. Стены, на которые все указывали, были настоящими. Это были просто не те стены. Большинство мультиагентных систем, в том числе и моя, совершают одну и ту же ошибку: мы рисуем поля для разрешений и называем результат изоляцией. Это не изоляция. Это организационная структура.
Вот что произошло на самом деле, без заголовков, собранных в Интернете. В ходе учения красной команды, описанного в сообщении OpenAI от 23 октября о защите своей среды обучения, исследователи поручили двум агентам на одном физическом хосте, в разных микровиртуальных машинах, обмениваться синтетическим секретом без доступа к сети и без общей файловой системы с возможностью записи. Они сделали это, превратив общий ресурс в сигнал: одна сторона выборочно вытесняла данные из кэша процессора, другая рассчитывала время, необходимое для обратного чтения этих данных, а быстрые и медленные становились битами — метод из того же семейства, что и Spectre и Meltdown. Два честных квалификатора имеют значение. В большинстве этих тестов исследователи указывали агентам на канал или передавали им этот канал.