Создайте REST API для приложения искусственного интеллекта, которое будет оставаться надежным даже при вывод медленный, повторяется или связан с реальными данными. Используйте тонкий Уровень FastAPI для проверки и аутентификации запросов, создания надежной задание по прогнозированию, возврат 202 Принято с...
Создайте REST API для приложения искусственного интеллекта, которое будет оставаться надежным даже при
вывод медленный, повторяется или связан с реальными данными. Используйте тонкий
Уровень FastAPI для проверки и аутентификации запросов, создания надежной
задание прогнозирования, возвратите 202 Accepted с URL-адресом состояния и
позвольте работнику обрабатывать выполнение модели вне HTTP-запроса.
В этом руководстве показано, как сохранить независимость публичного API от поставщика, сохранять
состояние задания с базой данных Oracle AI на производственном пути, поток
интерактивные ответы при необходимости и обеспечение доступа с учетом арендаторов. Это
основан на поддерживаемых Oracle AI Developer Hub доказательствах для SSE
доставка, оркестровка извлечения и доступ к корпоративным данным.
Иллюстративные шаблоны и подтвержденные доказательства
Код в этом руководстве объясняет границы API. Поддерживаемые доказательства, приведенные далее в статье, показывают эти границы в рабочих приложениях. Для производства используйте постоянство базы данных Oracle AI, доступ на уровне клиента, отдельную рабочую или постоянную очередь, утвержденную идентификацию, хранение, мониторинг и распределенное ограничение скорости. Фрагменты SQL, VPD, потоковой передачи и BackgroundTasks представляют собой руководство по проектированию, а не код развертывания, который можно скопировать и вставить.
Ключевые выводы
Создайте REST API вокруг reso.