Детектор, который не детектирует

Пара интересных работ по обходу детекторов дипфейковых изображений

В последние годы было разработано несколько методов обнаружения дипфейковых изображений, причём особым успехом пользуются подходы, использующие аналитические следы (например, признаки в частотной области), например, полученные с помощью дискретного косинусного преобразования (ДКП). Несмотря на свою эффективность, эти детекторы остаются уязвимыми для состязательных атак. В данной статье мы представляем новую состязательную атаку «серого ящика», специально разработанную для обхода детекторов дипфейков на основе ДКП. Наш метод точно настраивает статистику коэффициентов AC синтетических изображений, чтобы максимально приблизиться к реальным, сохраняя при этом высокое визуальное качество. Атака предполагает полное знание процесса извлечения признаков ДКП, но не доступ к внутренним параметрам классификаторов. Мы оцениваем предлагаемый метод на наборе детекторов на основе ДКП, используя дипфейки, сгенерированные как генеративно-состязательными сетями (ГСС), так и диффузионными моделями (ДМ). Экспериментальные результаты показывают значительное снижение эффективности обнаружения, выявляя критические недостатки систем, традиционно считающихся интерпретируемыми и надёжными. Эта работа поднимает важные вопросы относительно надежности детекторов частотной области в криминалистических приложениях и приложениях кибербезопасности. - A Novel Adversarial Gray-Box Attack on DCT-Based Face Deepfake Detectors

Несмотря на значительный прогресс в методологиях обнаружения дипфейков, они по-прежнему подвержены обходным методам, что является критической уязвимостью в криминалистических системах. Большинство подходов к обнаружению, основанных на артефактах, специфичных для генератора, или высокочастотных отпечатках, становятся уязвимыми для обхода при устранении этих отличительных признаков. Для выявления таких «слепых пятен» в современных криминалистических системах мы представляем GenPure – новую многоступенчатую платформу очистки, которая систематически удаляет как низкоуровневые, так и высокоуровневые синтетические сигналы, позволяя сгенерированным изображениям обходить различные детекторы в условиях строгого «черного ящика». В конвейере обходных методов обнаружения GenPure модуль реконструкции на базе U-Net с многомасштабными, пространственно адаптивными гауссовыми ядрами сначала ослабляет синтетические артефакты, сохраняя при этом перцепционную точность. Затем модель, основанная на зрительном восприятии, намеренно не предвзятая в отношении классификации «аутентичный-синтетический», сопоставляет ослабленные изображения с характеристиками аутентичных изображений, минимизируя расхождения в распределении в скрытом пространстве. Наконец, статистическая перекалибровка цвета, основанная на эталонных данных, восстанавливает естественный тон и дополнительно маскирует остаточные криминалистические сигналы. Эта платформа не требует знаний о детекторах или дополнительного обучения и распространяется на все типы генераторов, разрешения и области контента. Многочисленные эксперименты продемонстрировали передовые показатели уклонения от распознаваемых объектов при использовании множества невидимых источников генерации и систем обнаружения без ухудшения качества изображения. Результаты выявили устойчивые структурные недостатки современных криминалистических конвейеров и подчеркивают необходимость семантически обоснованных, инвариантных к манипуляциям защит. - GenPure: Foundation-Model-Guided Multi-Stage Purification Framework for Black-Box Evasion of Deepfake Detectors

P.S. "Нет у вас методов против Кости Сапрыкина" (с)

См. также другие публикации по теме deepfake