Ассоциация ученых требует полной прозрачности в обучении больших моделей
Коалиция исследовательских организаций опубликовала открытое письмо, требующее от разработчиков полного раскрытия информации о том, как обучаются большие модели. Учёные настаивают на доступе к деталям архитектуры, гиперпараметров и источников обучающих данных.
Аргументом служит необходимость независимой проверки безопасности, эффективности и соответствия этическим стандартам, а также воспроизводимости научных результатов.
Секретность разработки тормозит научный прогресс
Сейчас большинство крупных лабораторий держат детали разработки в строгом секрете из соображений конкурентного преимущества и безопасности.
Такая закрытость затрудняет аудит моделей на предмет смещений, потенциального вреда и соответствия заявленным характеристикам, что повышает риск появления необнаруженных проблем в продакшене.
Ассоциация предлагает компромисс в виде дифференцированного доступа: чувствительные данные могут оставаться защищёнными, но ключевые аспекты методологии должны быть открыты сообществу.