Кампус OpenAI раскрыл детали обучения ChatGPT-5 перед регуляторами
OpenAI провела брифинг для представителей регуляторных органов нескольких стран, раскрыв детали обучения модели ChatGPT-5. В докладе отражены источники обучающих данных, объём использованного вычислительного потенциала, методы проверки безопасности и механизмы выявления смещений в выходах модели. Это шаг к большей прозрачности в сфере разработки передовых систем ИИ.
Регуляторы получили информацию о мерах контроля качества, включая участие человека-эксперта в отборе результатов обучения и ограничения на использование персональных данных. OpenAI также обсудила свой подход к обнаружению и коррекции потенциально вредоносных возможностей моделей.
Значение для регулирования
Раскрытие методологии является сигналом industrywide, что производители моделей готовы к более жёсткому надзору и готовы сотрудничать с органами власти. Это может снизить конфликтность в дискуссиях о регулировании ИИ и создать основу для развития международных стандартов.
Информация, переданная регуляторам, может использоваться как эталон при оценке других систем и разработке требований к прозрачности для всего сектора.
Однако остаются вопросы о том, какие данные будут доступны публике, и как регуляторы защитят коммерческую тайну компаний, не давая конкурентам неправомерного преимущества.