Новый ИИ DiffProtect генерирует идеальную невидимую защиту от систем распознавания лиц
Агентство передовых оборонных исследовательских проектов Министерства обороны США (DARPA) профинансировало разработку нового инструмента на основе искусственного интеллекта, способного противостоять современным системам распознавания лиц. Инструмент под названием DiffProtect использует передовые генеративные диффузионные модели для создания фотореалистичных изображений, которые обманывают алгоритмы идентификации, оставаясь при этом практически неотличимыми от оригинала для человеческого глаза.
Исследовательская группа из Университета Джонса Хопкинса, Городского университета Гонконга и компании Advanced Micro Devices представила свою разработку в рецензируемой статье, принятой к публикации в майском номере журнала Pattern Recognition за 2026 год. В отличие от предыдущих методов, которые создавали зашумленные или явно искаженные изображения, DiffProtect генерирует естественные снимки высокого визуального качества. В ходе пользовательского исследования большинство участников предпочли результаты работы этой системы изображениям, созданным другими инструментами для защиты приватности.
Ключевая инновация метода заключается в использовании особых алгоритмов ИИ — диффузионных моделей, способных создавать и незаметно изменять изображения. Эта архитектура разделяет исходное изображение лица на семантический код, отвечающий за идентификационные характеристики, и шумовой компонент. Алгоритм целенаправленно и итеративно корректирует семантический код в процессе повторной генерации изображения, чтобы сбить с толку систему распознавания, при этом сохраняя визуальное сходство с исходной фотографией для человека. Изменения часто сводятся к минимальным, едва уловимым корректировкам выражения лица, формы глаз или освещения.
Тестирование на известных наборах данных, таких как CelebA-HQ и FFHQ, показало, что DiffProtect превосходит по эффективности предыдущие лучшие методы, увеличивая процент успешных атак более чем на 24%. Метод сохранил свою эффективность даже при применении к нему распространенных защитных мер, включая JPEG-сжатие и диффузионную очистку. Важно, что система успешно работает против коммерческих API распознавания лиц, таких как Face++ и Aliyun, что подтверждает её актуальность в реальных условиях.
Разработчики подчеркивают, что цель инструмента — не помочь преступникам избежать правосудия, а предоставить обычным пользователям возможность защитить свою приватность в цифровом пространстве, где они часто не контролируют, как используются их изображения. Технология была создана в рамках программы DARPA GARD, нацеленной на изучение уязвимостей искусственного интеллекта и обеспечение его устойчивости к обманным воздействиям.
В настоящее время DiffProtect остается прототипом, а не готовым потребительским продуктом. Его работа требует значительных вычислительных ресурсов и специального оборудования. Исследователи также отмечают, что долгосрочная эффективность подобных приёмов по «обману ИИ» будет зависеть от развития технологий распознавания и улучшения защитных стратегий. Тем не менее, появление DiffProtect демонстрирует двойственную природу генеративного ИИ: одни и те же алгоритмы, что используются для творчества, могут стать инструментом для защиты биометрических данных в мире, насыщенном автоматизированными системами наблюдения.