Anthropic запустила библиотеку для работы с чувствительными данными в контексте
Anthropic представила библиотеку для управления чувствительными данными в контексте запросов к языковым моделям. Решение обеспечивает автоматическое выявление и маскирование личной информации, учётных данных и других конфиденциальных элементов без потери смысла для модели.
Библиотека поддерживает предварительно определённые шаблоны для распознавания телефонов, адресов электронной почты, номеров счётов и прочего, а также позволяет задавать собственные правила маскирования. Маскированные данные сохраняются в отдельном хранилище, что упрощает их восстановление в ответах модели.
Приватность в масштабе
Инструмент построен с учётом требований GDPR и других нормативов по защите данных, что критично для разработки систем в финансовом секторе, здравоохранении и государственном управлении. Маскирование происходит локально перед отправкой данных на серверы Anthropic.
Библиотека совместима с Claude API и может быть встроена в существующие приложения с минимальными изменениями кода. Разработчики получают детальные логи о том, какие данные были маскированы и почему.
Исходный код библиотеки открыт, что позволяет организациям адаптировать инструмент под собственные требования безопасности.