Языковая модель знает только то, чему она обучалась, и это прекратилось в фиксированную дату. Он никогда не читал вашу внутреннюю вики, ваши заявки или отчет об инциденте за сегодняшнее утро. Поисково-дополненная генерация (RAG) — это архитектура, которая позволяет...
Языковая модель знает только то, чему она обучалась, и это прекратилось в фиксированную дату. Он никогда не читал вашу внутреннюю вики, ваши заявки или отчет об инциденте за сегодняшнее утро. Поисково-дополненная генерация (RAG) — это архитектура, которая позволяет отвечать на вопросы о ваших собственных, актуальных документах без переобучения модели.
Проще говоря: экзамен с открытой книгой. Вместо того, чтобы заставлять ученика запоминать всю библиотеку, вы позволяете ему сначала найти нужные страницы, а затем написать ответ на этих страницах.
Диаграмма: языковая модель заморожена на дату обучения и никогда не видела ваши личные документы. RAG просматривает их при поступлении вопроса и передает модели, поэтому переобучение не требуется, а обновленные документы меняют ответы. Смотрите анимационную версию.
RAG объединяет два предыдущих урока: встраивания придают каждому абзацу позицию по смыслу, а векторная база данных быстро находит ближайшие из них. Затем LLM делает то, что у него получается лучше всего, — пишет четкий ответ.
Диаграмма: RAG состоит из трех этапов: обработка документов путем их разбивки, встраивания и хранения, извлечение наиболее релевантных абзацев для каждого вопроса, а затем генерирование ответа из полученного контекста.