Большинство разработчиков относятся к многоагентным системам LLM как к обычному треду Slack: непрерывно передавая необработанные истории чатов туда и обратно, надеясь, что нижестоящая модель анализирует намерение. Когда это не удается, мы называем это «галлюцинацией» или «потерей контекста»...
Большинство разработчиков относятся к многоагентным системам LLM как к обычному треду Slack: непрерывно передавая необработанные истории чатов туда и обратно, надеясь, что нижестоящая модель анализирует намерение.
Когда это не удается, мы называем это «галлюцинацией» или «потерей контекста».
С точки зрения информатики и распределенных систем передача необработанного контекста является архитектурным недостатком. Шаблон полезной нагрузки Handoff — это не быстрый инженерный трюк; это формальный протокол перехода состояний, предназначенный для устранения сбоев распределенной координации агентов.
Вот разбивка того, почему это важно и как это неукоснительно реализовать.
1. Обоснование («Почему»)
А. Информационная энтропия и отношение сигнал/шум (SNR)
В теории информации Шеннона пропускная способность канала связи ухудшается из-за энтропии (шума). Неструктурированные истории чатов содержат диалоговые наполнители, отвергнутые гипотезы и заброшенные пути кода.
Проблема: передача необработанной истории в модель выполнения увеличивает пространство входных токенов с данными с высокой энтропией. Это приводит к тому, что механизм внимания преобразователя распределяет веса softmax по нерелевантным токенам.
Решение: компиляция состояния в структурированную полезную нагрузку максимизирует взаимную информацию между исполнителями.