Все дело в частоте

Интересный подход к бэкдорам в моделях распознавания изображений - скрытый триггер, который строится в частотном домене

А в этой статье - показывают, как бороться с бэкдорами в частотном домене

См. также другие публикации по теме adversarial, посвященные устойчивому машинному обучению