Ставки на ИИ обязывают вендоров раскрывать информацию об отказах
Европейская комиссия, Управление по защите данных Великобритании, Управление по контролю качества Канады и Национальный совет по стандартам Австралии выпустили совместное рекомендательное письмо, обязывающее вендоров основных LLM и систем компьютерного зрения раскрывать квартальные отчёты об известных ошибках, отказах в критических случаях и несоответствиях заявленной точности реальной производительности.
Требование распространяется на модели, которые используются для принятия решений, влияющих на права или благосостояние людей: медицинские диагнозы, одобрение кредитов, рекомендации при найме, модерация контента. Сокрытие известных проблем грозит штрафами в размере до 4% годового оборота компании.
Практические последствия
Вендоры встали перед дилеммой: либо публиковать недостатки и рисковать репутацией, либо углубить внутренние тесты и честно доложить о нахождении новых проблем. На практике это значит переход от минимизации ошибок к документированию и управлению ими.
OpenAI, Anthropic и Google объявили о создании специализированных отделов, занимающихся аудитом собственных систем. Меньшие компании обратились к третьим лабораториям за независимой проверкой, что привело к росту рынка услуг сертификации ИИ.
Эксперты предостерегают, что отчётность может привести к парадоксу: компании, честно раскрывающие проблемы, станут выглядеть ненадёжнее, чем те, кто просто не проводит достаточно аудитов. Механизм защиты от фальсификации отчётов ещё не разработан.