«Итак, у вас есть наблюдаемость. Что теперь?»

Тайлер Эдвардс, соучредитель и генеральный директор Overmind. Если вы запускаете агент в рабочей среде, скорее всего, у вас уже есть следы в Langfuse или LangSmith. Эта статья о той части, которую никто не инструментирует: для чего нужны эти следы. Наблюдение за вашим агентом — это ставки на столе. В не столь отдаленном прошлом был короткий период, когда выбор LLM означал выбор поставщика. Вы написали против их SDK, вы оплатили их счет, а когда их серверы вышли из строя во вторник днем, то же самое произошло и с вашими. Переключение было достаточно простым, но для этого требовалось пробираться по базе кода с помощью Ctrl+F или просить выбранного вами агента кодирования выполнить вместо вас эту оскорбительно простую задачу. Затем, на шестой день, появился шлюз LLM! Одна конечная точка, за которой стоят десятки моделей, меняет их быстрее, чем Великобритания меняет премьер-министров (и для иностранных читателей вот контекст этого). Шлюз сам по себе является действительно хорошей инженерной разработкой, и сейчас несколько команд поставляют модели маршрутизаторов с различными наворотами: Portkey, LiteLLM, OpenRouter, TrueFoundry, Kong, Cloudflare. Сидит рядом с воротами, обычно оплачивается отдельно и оснащен другим чаем.