Physics-In-The-Loop

Недавние исследования показали, что глубокие нейронные сети (ГНС) могут ошибочно классифицировать входные данные, содержащие состязательные возмущения. Большинство существующих методов защиты основаны на обработке данных в цифровой среде и требуют доступа к внутренним параметрам модели, что ограничивает их применение в реальных системах. В данной работе предлагается метод защиты, основанный на проекции и повторной генерации состязательных воздействий, что позволяет физически нейтрализовать влияние таких атак. Предложенный подход использует оптимизацию с учетом физических условий (physics-in-the-loop, PITL), при которой возможные варианты решений оцениваются в реальной среде, что позволяет учесть технические характеристики устройств и внешние помехи. Результаты экспериментов подтверждают эффективность защиты от физических состязательных атак, использующих «заплатки» (патчи) или текстурные искажения, при условии, что истинный класс объекта известен. - Defense Against Physical Adversarial Attacks via Projection-Based Re-Attack

См. также другие публикации по теме физические атаки