TL;DR: Чтобы обработать несколько частных финтех-документов с помощью API пакетного суммирования, используйте асинхронное задание, если сводки могут ждать несколько минут. Выберите поставщика, формат запроса, доступ к модели и обработку результатов которого вы можете заменить...
TL;DR: Чтобы обработать несколько частных финтех-документов с помощью API пакетного суммирования, используйте асинхронное задание, если сводки могут ждать несколько минут. Выберите поставщика, формат запроса, доступ к модели и обработку результатов которого вы можете заменить, не переписывая конвейер приема. Простой вариант REST, такой как Infrai, разумно подходит, когда переносимость означает сохранение небольшого размера клиента: нет SDK или версии клиентской библиотеки, которую нужно поддерживать, и любой язык, который может отправлять HTTP, может отправить работу.
Вариант
Лучше всего подходит
Компромисс с портативностью
Пакетный API OpenAI
Стек уже основан на моделях OpenAI.
Пакетный контракт и маршрутизация модели специфичны для OpenAI.
Пакеты антропных сообщений
Рабочие нагрузки, построенные вокруг Клода
Схема сообщения и каталог моделей специфичны для Anthropic.
Пакетный API Google Gemini
Приложения, уже использующие Gemini
Форма запроса и ответа соответствует API Gemini.
Пакетный шлюз REST
Небольшой сервис, который может изменить производителей моделей
Еще одна абстракция для оценки, но клиент может оставаться основанным на HTTP.
Мое правило принятия решения простое: используйте наименее сложный вариант, сохраняющий реальный выход. Для SaaS с еженедельной доставкой, выполняемой одним человеком, это обычно означает хранение документов и состояния заданий.