Настройка безопасности инвертирует кривую реакции напряжения у агентов LLM для моделирования гражданского насилия

Аннотация Агентские модели (ABM), управляемые LLM, заменяют правило принятия решения в закрытой форме агентом LLM. Идея состоит в том, что агент воспроизводит качественное поведение исходного правила, добавляя контекстно-зависимые рассуждения. Мы проверяем это предположение на модели гражданского насилия Эпштейна (2002). При более чем 600 условиях калибровки на локально обслуживаемой модели Qwen 27B (4-бит, MLX) вероятность выбора активации падает по мере роста напряжения сценария: с 41,5% при напряжении 0,10 до 12,6% при 0,90 в паре меток действие/ожидание. Правило Эпштейна предсказывает обратное. Изменение только ярлыков «протестовать/подчиниться» восстанавливает монотонно возрастающую реакцию от 0% до 95% в том же диапазоне. Мы разбиваем наблюдаемое искажение на априорные лексические метки, предвзятость позиции и зависимый от напряжения компонент противодействия и предполагаем, что последний из них возникает из-за выравнивания безопасности. Мы утверждаем, что конвейеры LLM-ABM нуждаются в этапе калибровки с отчетным «бюджетом смещения», прежде чем поведение агента будет сравниваться с математическими базовыми показателями. 1. Предыстория В модели Эпштейна каждый гражданский агент вычисляет срок рассмотрения жалоб и срок чистого риска: Жалоба: G = H · (1 − L), где H — это воспринимаемые трудности, а L — это pe.