Первые случаи халатности ИИ привели к судебным исковым требованиям
Судебные разбирательства в США и Европе фокусируются на вопросе об ответственности разработчика модели за результаты её применения. Истцы утверждают, что компании недостаточно предупредили об ограничениях моделей и потенциальных ошибках, что привело к финансовым убыткам и вреду здоровью.
Один из резонансных случаев касался системы найма, которая дискриминировала кандидатов на основе защищённых характеристик. Другой — системы медицинской диагностики, которая пропустила критичное заболевание и привела к задержке лечения.
Правовые последствия
Суды постепенно устанавливают, что разработчик или интегратор модели несёт ответственность не только за её технические характеристики, но и за способность конечного пользователя адекватно интерпретировать результаты и выявлять ошибки.
В ответ компании начинают включать в контракты оговорки об ограничении ответственности и требуют от клиентов документировать процедуры валидации и одобрения решений ИИ перед применением.
Прецеденты активизировали дискуссии о необходимости стандартизированной сертификации моделей и обязательного раскрытия данных об их обучении, точности и известных ограничениях.