RAG объяснила: как ИИ находит ответы в 600 документах без переобучения

RAG объяснила: как ИИ находит ответы в 600 документах без переобучения Представьте, что у вашей HR-команды есть справочник для сотрудников на 600 страниц. Кто-то спрашивает внутреннего ИИ-помощника: Сколько дней отпуска я могу перенести на следующий год? Ответ скрыт в параграфе политики. Языковая модель может знать, как обычно выглядит политика отпусков, но она не знает автоматически текущие правила вашей компании. Загружать весь справочник с каждым вопросом — это дорого, медленно и зачастую непрактично. Переподготовка модели каждый раз, когда меняется политика, еще хуже. Поисково-дополненная генерация (RAG) решает другую проблему: сначала найдите соответствующие доказательства, а затем попросите модель ответить, используя эти доказательства. Краткое визуальное объяснение, которое послужило вдохновением для этой статьи, иллюстрирует ход вопроса о кадровой политике. Давайте раскроем архитектуру, включая то, что нужно, чтобы сделать ее надежной в производстве. Два конвейера, лежащие в основе RAG Типичное приложение RAG имеет два независимых пути: Индексирование (автономное или управляемое событиями): прием документов, извлечение текста, разделение его на фрагменты, создание вложений и сохранение записей с возможностью поиска. Ответ (на вопрос пользователя): получение соответствующих фрагментов, обеспечение авторизации.