Дипфейки становятся неотличимы от оригинала даже для экспертов
Исследователи из университетских лабораторий провели серию тестов, в которых эксперты по анализу медиа оценивали видео и аудиозаписи на подлинность. Результаты показали, что в 40 процентах случаев даже опытные специалисты неверно определяли синтезированный контент как оригинальный.
Новое поколение генеративных моделей использует методы, которые имитируют естественные несовершенства оригинальных видеозаписей — микровибрации камеры, артефакты сжатия, шумы окружающей среды. Это делает дипфейки практически неразличимыми для визуального анализа.
Проблема верификации
Традиционные методы детектирования дипфейков основаны на поиске математических отпечатков синтеза, но генеративные модели быстро адаптируются к этим методам. Технологическая гонка между создателями синтезированного контента и системами его обнаружения продолжает ускоряться.
Эксперты предлагают переходить от детектирования дипфейков к верификации подлинности на уровне источника — например, использованию цифровых подписей и блокчейна для сертификации оригинальных материалов. Однако широкое внедрение таких систем требует международного координирования.
Возрастающая неразличимость синтетического контента ставит новые вызовы перед коммуникационной безопасностью и доверием к медиа, что побуждает правительства и платформы разрабатывать новые стандарты аутентификации.