Чтобы проверить, работает ли ограждение агента ИИ, дважды запустите помеченный корпус: один раз в том виде, в каком он был построен, один раз с заменой ворот на проходной. ablation_probe.py сортирует каждый неверный ввод на LOAD_BEARING, SHADOWED или MISSED и завершает работу 1...
Чтобы проверить, работает ли ограждение агента ИИ, дважды запустите помеченный корпус: один раз в том виде, в каком он был построен, один раз с заменой ворот на проходной. ablation_probe.py сортирует каждый неверный ввод в LOAD_BEARING, SHADOWED или MISSED и завершает работу со значением 1, если вердикт не вынесен. Отказ показывает, что что-то сказало «нет». Это не показывает, что ворота сделали.
Вот форма проблемы. У вас есть политические ворота. Вы написали приспособление, которое оно должно отклонять. CI запускает приспособление, конвейер говорит DENY, сборка зеленая. Теперь удалите ворота. В моем корпусе 9 из 26 неправильных входных данных все еще отклоняются другими этапами, которые все это время находились в стадии разработки.
Эти 9 — украшение. Отказано с воротами, отказано без них. Что бы они ни испытывали, это не врата.
Раскрытие ИИ. Я написал ablation_probe.py и make_corpus.py с помощью ИИ и сам запустил их перед публикацией: офлайн, только стандартная библиотека, без сети, без ключей, без средств. Каждый выходной блок ниже вставлен из реального запуска Python 3.13.5. run_all.sh выполняет 31 сценарий, каждый по три раза, и сравнивает копии байт за байтом: он сообщил о 31 из 31 байтов, идентичных за три запуска. Код sha256: ablation_probe.py 52035306…d6e4, мак