Абстрактный. Однопроцессный и одноконтекстный агент LLM — это артефакт прототипирования, который ошибочно принимают за архитектуру. В этом эссе утверждается, что его виды отказов являются не дефектами оперативного проектирования, а структурными, и описывается причина...
Архитектурная эволюция: от монолитных агентов LLM к специализированным многоагентным роям с перспективным фоновым познанием
Аннотация. Однопроцессный и одноконтекстный агент LLM — это артефакт прототипирования, который ошибочно принимают за архитектуру. В этом эссе утверждается, что его режимы сбоя являются не дефектами оперативного проектирования, а структурными, и описывается четырехуровневая топология, которая заменяет один неограниченный контекст четырьмя ограниченными, добавляет постоянное фоновое познание в качестве первоклассной подсистемы и отделяет оркестровку плоскости управления на ограниченном периферийном оборудовании от вывода плоскости данных на эфемерных облачных графических процессорах.
1. Режим архитектурного отказа монолитных агентов
Монолитный агент управляет политикой, восприятием и проверкой в одном процессе с одним контекстным окном. Далее следуют три патологии, и они усугубляются.
Загрязнение контекста. Внимание — это фиксированный бюджет. Каждый результат инструмента, трассировка стека и полученный документ конкурируют за него, а отзыв материала в середине контекста ухудшается по мере заполнения окна. Хуже, чем снижение производительности, являются эпистемические последствия: контекст представляет собой журнал, доступный только для добавления, в котором спекулятивный вывод на третьем этапе структурно неотличим от v.