Friday, January 19, 2024

И снова бэкдоры

Пара интересных работ по бэкдор-атакам для систем ML:

Sample-specific Backdoor Attack - в качестве триггера выступает само изображение. В данном случае авторы рассматривают так-называемую атаку с чистой меткой - метка отравленного изображения не отличается от настоящей.

Интересная работа по использованию генеративных моделей для создания физических триггеров: Synthesizing Physical Backdoor Datasets: An Automated Framework Leveraging Deep Generative Models

См. также другие публикации по бэкдор атакам

No comments: