Ловушка аннулирования модели внедрения: почему замена моделей разрушает RAG

Первоначально опубликовано **Суверенной инженерной практикой Logic42* по адресу https://logic42.ai/articles/embedding-space-invalidation-trap-vector-migration.* Ловушка аннулирования модели внедрения: почему замена моделей разрушает RAG Ловушка недействительности модели внедрения — это сбой в скрытом повреждении данных, когда инженерные группы обновляют модели внедрения на уровне приложения без повторной индексации баз данных исторических векторов. Поскольку различные модели внедрения проецируют семантические представления в математически ортогональные векторные пространства, вычисление косинусного расстояния между векторами из несовпадающих моделей разрушает семантическую полноту, снижая точность поиска с 92% до 11%. Команды инженеров предприятия постоянно стремятся к более высокой точности извлечения информации из внутренних баз знаний. Когда выпускается новая модель внедрения с открытым весом, такая как bge-large-en-v1.5, или обновленный коммерческий API, разработчики, естественно, хотят обновиться. Это похоже на простое изменение конфигурации. Вы обновляете переменные среды шлюза приложений, перезапускаете службу и выполняете развертывание. В условиях свежих тестовых документов новая модель показала себя превосходно. Но в производстве ваша векторная база данных уже содержит 30 000 000 d.