OpenAI запустила облако для обработки голосовых команд без задержек
OpenAI развернула сеть региональных центров обработки речи, которые минимизируют время передачи данных от устройства пользователя до модели. Среднее время отклика снизилось с 800 мс в облаке OpenAI до 150 мс на региональных серверах.
Инфраструктура поддерживает потоковую обработку речи, что позволяет ассистенту начинать анализ еще во время записи и выдавать ответ почти синхронно с речью пользователя. Это создает впечатление естественного диалога.
Соответствие регуляции
Данные обрабатываются на серверах в стране пользователя в соответствии с GDPR, законами о защите данных и требованиями секторальной регуляции. Опция на локальное сохранение аудиозаписей встроена в настройки приватности.
Облако поддерживает и коммерческие интеграции: мобильные приложения, умные дома и системы в автомобилях могут напрямую обращаться к API без промежуточного слоя. Пропускная способность масштабируется автоматически при скачках нагрузки.
Сервис уже работает в США, Европе и Азии; расширение на другие регионы запланировано на конец года.