Персональные данные в запросах к нейросети: тихая утечка
Самый частый инцидент с ИИ в компаниях не связан со взломом. Сотрудник копирует в окно чата письмо клиента, договор или выгрузку из базы, чтобы получить краткое изложение, и тем самым передаёт данные внешнему сервису.
Психологически этот шаг не воспринимается как передача. Чат ощущается инструментом вроде текстового редактора, хотя фактически содержимое запроса покидает периметр организации и оседает в логах провайдера.
Что с этим делают
Рабочие меры оказались скучными и организационными. Помогает не запрет, который обходят через личные аккаунты, а разрешённый корпоративный доступ с понятными правилами: какие категории данных нельзя вставлять никогда и какие сначала обезличиваются.
Отдельный слой — настройки самого сервиса. Отключение обучения на запросах, ограниченный срок хранения истории и корпоративный тариф с иным режимом обработки закрывают часть претензий, но не отменяют факта передачи.
Практика показывает, что чаще всего утекают не секреты компании, а данные её клиентов, и объясняться в случае разбирательства придётся именно за них.
Что это значит
Подробности и первичное описание опубликованы на странице «как устроен хороший промпт для картинки», там же собраны условия доступа и ограничения, о которых заявили разработчики.
Похожие материалы и обновления по теме мы собираем в разделе Рынок ИИ и корпоративные новости — он пополняется по мере выхода новых сообщений.