OpenAI запустила честный отчёт об ограничениях новой модели
OpenAI выпустила открытый отчёт, описывающий ограничения ChatGPT-5 и области, требующие осторожности при использовании. Документ охватывает трудности с математическими расчётами при больших числах, ошибки при анализе совсем свежей информации и сложности с решением задач, требующих глубокого специализированного знания.
Отчёт также указывает на риск галлюцинаций — ситуации, когда модель уверенно генерирует вымышленную информацию, представляя её как факты. Компания рекомендует критически проверять результаты в критичных областях, таких как медицина, право и финансы.
Прозрачность перед пользователями
OpenAI подчеркнула необходимость критического отношения к выводам модели при работе с научными данными и техническими специализациями. Компания предложила пользователям сообщать об ошибках и неточностях для улучшения будущих версий.
Инициатива отражает тренд на большую ответственность в области ИИ и соответствует призывам регуляторов и исследователей к прозрачности. Полный отчёт доступен на сайте OpenAI и может быть использован компаниями при оценке рисков внедрения модели в критичные процессы.