Госзакупки ИИ требуют прозрачности исходного кода и обучающих данных
В нескольких странах ОЭСР приняли новые критерии для государственных тендеров на решения ИИ, требующие поставщикам предоставлять исходный код и полную документацию о составе обучающей выборки. Требование вызвано необходимостью убедиться в отсутствии смещений в работе алгоритмов и в возможности независимой аудита перед развёртыванием в госсистемах.
Закупки государством включают решения для здравоохранения, юстиции и социальной поддержки, где качество предсказаний критично и зависит от достоверности и полноты обучающих данных. Поставщики, которые отказывают в доступе к коду или данным под предлогом коммерческой тайны, исключаются из тендеров.
Воздействие на поставщиков и разработчиков
Требование прозрачности вызвало споры в индустрии. Разработчики опасаются утечек интеллектуальной собственности, однако государственные заказчики настаивают на том, что общественные системы должны быть проверяемы и подотчётны.
Несколько крупных вендоров уже скорректировали свою продуктовую стратегию в отношении государственного сегмента, предложив версии с открытым кодом или ограниченным доступом для аудиторов. Тренд ожидается распространиться на закупки у приватных компаний, обслуживающих государственные контракты.
Аналитики предполагают, что требование транспарентности станет новым стандартом в регулировании критических ИИ-систем, хотя переговоры о балансе между открытостью и защитой IP ещё идут.