Регулирующие органы наложили штраф за использование неодобренных моделей в медицине

Агентство по контролю за лекарствами и продуктами (FDA) в США и Европейское агентство по лекарственным средствам (EMA) инициировали разбирательства против нескольких компаний, внедривших ИИ-системы для диагностики и рекомендаций лечения без официального разрешения. Штрафы составили от 5 до 50 млн долларов; две компании обязаны приостановить использование моделей до получения одобрения.

Разбирательства привлекли внимание к пробелам в регулировании: до сих пор нет чёткого определения, какие ИИ-системы требуют предварительного одобрения, и каким образом компании должны документировать и верифицировать качество моделей в клинической практике.

Новые требования к сертификации

FDA выпустила предварительный документ с рекомендациями по разработке и тестированию ИИ-систем в медицине; процесс одобрения требует клинических исследований и непрерывного мониторинга производительности модели. Требования существенно замедляют выход новых решений на рынок, но обязательны для соблюдения.

Компании активно пересматривают свои системы и готовят документацию для регуляторных органов, однако кривая разработки и внедрения моделей, обновляющихся с новыми данными, остаётся предметом споров между разработчиками и регуляторами.

Некоторые страны, в том числе Канада и Австралия, адаптируют европейский подход и разрабатывают собственные рамки для одобрения медицинского ИИ. Это усложняет глобальный выпуск решений, однако способствует повышению стандартов безопасности в отрасли.