Защита от атак патчами

Разработка надежных средств защиты от атак с использованием патчей на детекторы объектов привлекает все больший интерес. Однако мы обнаружили, что существующие оценки защиты не имеют единой и всеобъемлющей структуры, что приводит к непоследовательным и неполным оценкам текущих методов. Чтобы решить эту проблему, мы пересматриваем 11 репрезентативных средств защиты и представляем первый бенчмарк защиты с использованием патчей, включающий 2 цели атаки, 13 атак с использованием патчей, 11 детекторов объектов и 4 различных метрики. Это приводит к получению масштабного состязательного набора данных с патчами, содержащего 94 типа патчей и 94 000 изображений. Наш комплексный анализ открывает новые возможности: (1) Сложность защиты от натуралистичных патчей заключается в распределении данных, а не в общепринятых высоких частотах. Наш новый набор данных с разнообразным распределением патчей может быть использован для улучшения существующих средств защиты на 15,09% AP@0,5. (2) Средняя точность обнаружения атакуемого объекта, а не обычно требуемая точность обнаружения патчей, демонстрирует высокую согласованность с эффективностью защиты. (3) Адаптивные атаки могут существенно обходить существующие защиты, а защиты с сложными/стохастическими моделями или универсальными свойствами патча относительно надёжны. Мы надеемся, что наш анализ послужит руководством по правильной оценке атак/защит с использованием патча и совершенствованию их конструкции. Код и набор данных доступны по адресу https://github.com/Gandolfczjh/APDE, где мы продолжим интегрировать новые атаки/защиты. - Revisiting Adversarial Patch Defenses on Object Detectors: Unified Evaluation, Large-Scale Dataset, and New Insights