На прошлой неделе товарищ по команде продемонстрировал планировщик миграции с помощью искусственного интеллекта, и аудитории он понравился. Агент подготовил чистый план, пользовательский интерфейс отрисовал его за секунды, и никто не задал единственного вопроса, который действительно имеет значение. Я спросил, что происходит, когда режим...
На прошлой неделе товарищ по команде продемонстрировал планировщик миграции с помощью искусственного интеллекта, и аудитории он понравился. Агент подготовил чистый план, пользовательский интерфейс отрисовал его за секунды, и никто не задал единственного вопроса, который действительно имеет значение. Я спросил, что произойдет, когда поставщик моделей вернет 429 во вторник в 9:42, и в комнате воцарилась тишина. Это молчание является реальным состоянием большинства интеграций ИИ, которые я вижу: счастливый путь отшлифован, а путь неудачи остается второстепенным. Первый слой, который терпит неудачу в производстве, никогда не является моделью; это передача управления между модельным маршрутом и всем, что находится ниже по течению.
Вот моя позиция, изложенная прямо. Бесплатные квоты токенов и бесплатные серверы не являются скидкой на уже выполняемую вами рабочую нагрузку; они дают право ломать вещи с нулевыми предельными издержками. Команды, которые тратят их на демо-версии счастливого пути, растрачивают единственную инфраструктуру, которая платит вам за деструктивность.
Проект MonkeyCode с открытым исходным кодом в настоящее время сочетает в себе квоту бесплатных токенов — десять миллионов токенов на момент написания этой статьи — с опцией бесплатного сервера. Это похоже на маркетинговый пакет; на самом деле это площадка для испытаний на отказ. Раскрытие информации: эта статья была подготовлена в рамках информационно-пропагандистской программы MonkeyCode. Я пишу об этом, потому что c