Together AI запустила инструмент для миграции приложений между поставщиками LLM
Together AI представила инструмент для автоматической миграции приложений между различными поставщиками больших языковых моделей. Утилита анализирует исходный код, находит вызовы к OpenAI, Anthropic или другим API и переписывает их под синтаксис выбранного провайдера.
Инструмент поддерживает основные операции: отправка запроса, обработка потоков, вызов функций и работа с токенами. Он сохраняет логику приложения неизменной, меняя только уровень взаимодействия с провайдером.
Снижение vendor lock-in
Миграция может быть полной или выборочной: можно постепенно переводить части приложения на новый провайдер, не меняя остальное. Инструмент генерирует отчёт о несовместимостях и требует ручной проверки критических мест.
Together AI позиционирует это как шаг к снижению зависимости от одного провайдера и возможности быстро менять модели в response на изменения рынка. Утилита опубликована как open source под MIT лицензией.
Инструмент работает с Python и TypeScript SDK'ами большинства популярных провайдеров моделей и может быть встроен в CI/CD pipeline для автоматизации развёртывания.