Защита от атак патчами

Беспилотные летательные аппараты (БПЛА), оснащенные алгоритмами обнаружения объектов, все чаще используются для автоматизации задач, традиционно требующих ручного осмотра. Однако системы обнаружения, основанные на глубоком обучении, остаются уязвимыми к атакам со стороны злоумышленников, основанным на патчах, что значительно снижает точность обнаружения и создает проблемы безопасности. Для решения этой проблемы мы предлагаем новую двухэтапную структуру защиты от атак со стороны злоумышленников. Первый этап фокусируется на исправлении патчей. Мы используем модель «Сегментировать все» (SAM) для точного генерирования масок злоумышленников, а затем модель диффузии для реконструкции поврежденных областей изображения. Для обеспечения производительности в реальном времени и поддержки масштабируемого развертывания процесс исправления патчей переносится на периферийные серверы и в облако. На втором этапе мы повышаем надежность обнаружения с помощью модуля пространственно-частотного улучшенного выравнивания (SFEA), разработанного для уменьшения искажений, вносимых процессом восстановления изображения. SFEA объединяет сеть долговременной краткосрочной памяти (LSTM) на основе машинного зрения с миксером с комбинированной сверточной Фурье (FFCM) для извлечения и выравнивания пространственных и частотных признаков. Модуль коммутации двух потоков динамически выравнивает эти признаки в обеих областях, а модуль свёрточного блока внимания (CBAM) дополнительно повышает репрезентативную надёжность. Экспериментальные результаты как на эталонных, так и на реальных наборах данных показывают, что наша структура превосходит существующие методы защиты в борьбе с атаками с использованием патчей. - Defending UAVs Against Adversarial Attacks Using Diffusion Model

Тема важная - защита от атак на системы распознавния объектов. Для систем с ограниченным ресурсами - это большая проблема. Важно отметить, что в данной работе авторы используют периферические вычисления. Не для всех БПЛА это доступно.

См. также другие публикации по теме adversarial, посвященные устойчивому машинному обучению