Утечка корпоративных данных через промпты стала частой причиной судов
Судебные иски были поданы финансовыми организациями, производителями и технологическими компаниями, обвиняющими провайдеров ИИ в нарушении конфиденциальности. Истцы заявляют, что служащие случайно вводили в чаты чувствительные данные — исходный код, финансовые отчёты, личные сведения клиентов, — которые затем воспроизводились моделью в ответах.
Проблема обострилась после того, как многие компании массово внедрили ChatGPT в рабочие процессы без надлежащих политик по использованию. Сотрудники рассматривали ИИ как обычный поисковик и не понимали, что введённые данные могут попасть в публичный домен или использоваться для обучения моделей.
Правовые последствия и защита данных
Суды в США, Европе и Великобритании начали устанавливать прецеденты: ответственность лежит не только на компаниях-пользователях, но и на разработчиках моделей, которые должны обеспечивать технологическую безопасность. Размеры исков варьируются от сотен тысяч до десятков миллионов долларов.
Регуляторы требуют улучшений в трёх направлениях: прозрачность в обработке пользовательских данных, контроль доступа к закрытым моделям и возможность удаления информации из обучающей базы. Провайдеры ИИ инвестируют в технологии, позволяющие клиентам отключать сохранение промптов и использовать локальные модели.
Волна судебных дел вынудит компании переосмыслить свои политики по внедрению ИИ: появятся чёткие правила о том, какие данные можно вводить в публичные сервисы, и вырастет спрос на корпоративные версии моделей с гарантиями конфиденциальности.