Песочница вашего агента может заблокировать некорректное действие. Более сложный вопрос заключается в том, сможете ли вы доказать, что он сделал и что вы остановили. Независимая оценка NVIDIA OpenShell (песочницы для агентов ИИ) обнаружила, что блокировка сохраняется, но...
Песочница вашего агента может заблокировать некорректное действие. Более сложный вопрос заключается в том, сможете ли вы доказать, что он сделал и что вы остановили.
Независимая оценка NVIDIA OpenShell (песочница для агентов ИИ) обнаружила, что блокировка сохраняется, но доказательств нет: заблокированный DNS-запрос вообще не оставляет событий, экспорт аудита OCSF ничего не записывает, а некоторые события существуют только на консоли виртуальной машины. Если записи разбросаны, неполны или доступны для редактирования постфактум, вы не можете ответить на единственный вопрос, который имеет значение после инцидента: что именно сделал агент?
Итак, я создал недостающий слой.
Агент Ремень безопасности
Agent Seatbelt — это уровень политик и доказательств, не зависящий от поставщика, который находится над любой средой выполнения агента, которую вы уже используете:
Детерминистская политика на границе. Вызовы инструментов, выход из сети, DNS, доступ к файлам, бюджет и предоставление учетных данных определяются политиками OPA/Rego, выполняемыми вне процесса агента. Ни один LLM ничего не оценивает на пути принятия решения.
Разрешить и запретить становятся рекордами. Каждое решение сохраняется в регистре доказательств, предназначенном только для добавления, с хеш-цепочкой и с отметкой хеша того пакета политик, который принял это решение. Переверните один байт, и автономный верификатор назовет подделанную запись.
Ков