Новая версия быстрее распознаёт намерение пользователя
Обновление касается скорости анализа вводимого текста до начала генерации ответа. На практике это значит, что ChatGPT быстрее поймёт, нужна ли помощь при написании кода, анализ документа, переводы или творческая работа, и сразу перейдёт в нужный режим ответа.
Улучшение достигнуто благодаря переобучению модели на расширенном наборе примеров намерений. Данные собирались из миллионов реальных диалогов с согласия пользователей. Система теперь различает 127 типов намерений вместо прежних 34.
Практические результаты
Средняя латентность при начале ответа сократилась с 1,8 до 0,9 секунды на устройствах со стабильным интернетом. Для пользователей, которые часто вводят многозначные запросы, это означает заметное ускорение диалога.
Нововведение развёртывается поэтапно. Веб-версия получила обновление в первую очередь, приложения для iOS и Android получат его в течение двух недель.
OpenAI отметила, что более точное распознавание намерения также улучшает качество ответов, так как модель лучше понимает, что именно ищет пользователь.