Microsoft запустила инструмент для миграции кода с GPT-3.5 на GPT-4 с сохранением API

Microsoft представила инструмент миграции, который анализирует существующий код и заменяет все вызовы GPT-3.5 на GPT-4, сохраняя структуру запросов и параметры вызовов. Утилита работает с популярными фреймворками и SDK, включая OpenAI Python и Node.js.

Инструмент не только меняет идентификатор модели, но и проверяет совместимость параметров и выдаёт рекомендации по оптимизации, например, снижение температуры для более детерминированных ответов, которые часто требуются при переходе на более мощную модель.

Валидация и тестирование

После миграции система предлагает запустить набор тестов на примере проекта, чтобы убедиться, что поведение модели соответствует ожиданиям. Результаты сравниваются с исходным кодом для GPT-3.5.

Утилита поддерживает различные способы развёртывания: в виде плагина IDE, командной строки или интеграции в CI/CD pipeline. Миграция может быть выполнена файл за файлом или на весь проект разом.

Инструмент доступен как часть Azure OpenAI Services и поддерживает откат к GPT-3.5 без потери истории изменений, что позволяет разработчикам безопасно экспериментировать с более новой моделью.