Шумовые бэкдоры

В последние годы все больше исследователей уделяют внимание безопасности искусственного интеллекта. Атака с использованием бэкдора является одной из угроз и обладает мощной, скрытой способностью к атаке. Наблюдается растущая тенденция к созданию динамических и глобальных триггеров. В данной статье мы предлагаем новый глобальный бэкдор-триггер, генерируемый процедурным шумом. По сравнению с большинством триггеров, наш гораздо более скрытен и прост в реализации. Фактически, существует три типа процедурного шума, и мы оцениваем атакующую способность триггеров, генерируемых ими, на различных наборах данных для классификации, включая CIFAR-10, GTSRB, CelebA и ImageNet12. Результаты экспериментов показывают, что наш подход к атаке может обойти большинство методов защиты, даже при проверке человеком. Нам требуется всего 5-10% обучающих данных, но показатель успешности атаки (ASR) может достигать более 99%. Для проверки устойчивости модели бэкдора к методам искажения, используемым на практике, мы вводим 17 методов искажения и вычисляем точность и ASR модели бэкдора с их использованием. Результаты показывают, что наша модель бэкдора обладает высокой устойчивостью к большинству методов искажения, что означает возможность ее применения в реальных условиях. Наш код доступен по адресу https://github.com/928082786/pnoiseattack. - https://ieeexplore.ieee.org/stamp/stamp.jsp?arnumber=9529206

См. также другие публикации по бэкдор атакам