Агент может иметь все необходимые инструменты и все равно отвечать неправильно — потому что он чего-то не знает. Не неспособен знать это; факта просто не было в его обучающих данных, или он изменился впоследствии, или он находится в документе, который есть только у вашей команды....
Агент может иметь все необходимые инструменты и все равно отвечать неправильно — потому что он чего-то не знает. Не неспособен знать это; факта просто не было в его обучающих данных, или он изменился впоследствии, или он находится в документе, который есть только у вашей команды.
Этот пост продолжает мою серию о строительных агентах. Предыдущий посвящен вызову инструментов.
Что такое РАГ на самом деле
Поисковая расширенная генерация извлекает соответствующий текст из источника знаний в момент задания вопроса и вставляет его в подсказку модели перед тем, как она ответит, вместо того, чтобы полагаться только на то, что модель узнала во время обучения. Обновите документы, и следующий ответ немедленно отразит изменение — никакого переобучения не требуется.
Три работы, а не одна
Встраивание — превратите текст в вектор, расположив его так, чтобы схожие значения располагались рядом друг с другом.
Поиск — сравнивайте вектор вопроса с каждым сохраненным вектором документа (обычно с косинусным сходством) и сохраняйте только самые близкие совпадения.
Дополнение — вставьте эти совпадения в подсказку в качестве контекста перед ответом модели.
блок-схема LR
Q[Вопрос пользователя] --> E[Превратить вопрос в вектор]
E --> S[Сравнить с каждым сохраненным вектором документа]
S --> K[Оставлять только ближайший коврик