Microsoft добавила в Azure инструмент для контроля соответствия ответов политике компании
Microsoft интегрировала в Azure новый инструмент для контроля соответствия ответов моделей корпоративным политикам. Механизм работает на уровне пост-обработки и фильтрует или модифицирует выходные данные перед доставкой конечному пользователю.
Инструмент позволяет определить набор правил, которые отражают требования компании к языку, тематике, точности и другим аспектам. Администраторы задают политики через визуальный интерфейс или конфигурационные файлы без необходимости изменения кода приложения.
Реализация и развёртывание
Контроль осуществляется на основе как явно заданных правил, так и обучаемых фильтров, которые учатся на исторических данных нарушений. Система выделяет степень серьёзности нарушения и предлагает варианты корректирующих действий.
Инструмент интегрирован с логированием и мониторингом Azure, что позволяет отслеживать тренды нарушений политик и улучшать их эффективность. Все операции контроля записываются для аудита и соответствия требованиям регуляторов.
Функция доступна для всех моделей в Azure OpenAI Service и планируется расширение совместимости на другие развёрнутые модели платформы.