OpenAI выпустила инструмент для автоматического создания тестов на основе логов запросов
OpenAI запустила инструмент, который анализирует логи реальных запросов к API и автоматически создаёт набор unit-тестов и интеграционных тестов для проверки поведения моделей. Это упрощает валидацию обновлений и регрессионное тестирование.
Инструмент извлекает из логов примеры промптов, ожидаемые типы ответов и граничные случаи, затем генерирует тесты, которые проверяют, что модель возвращает результаты в том же формате и с соответствующей точностью.
Автоматизация тестирования
Созданные тесты можно запускать в CI/CD pipeline перед развёртыванием новых версий приложения или при обновлении версии API OpenAI. Это помогает своевременно выявить нежелательные изменения в поведении моделей.
Инструмент поддерживает различные форматы логов и интегрируется с pytest, Jest и другими популярными фреймворками тестирования для разных языков программирования.
Доступ предоставляется через OpenAI Platform для всех подписчиков, начиная со следующего обновления OpenAI API.