Бэкдоры в моделях машинного обучения

Хороший обзор по бэкдорам и защитам от них

См. также другие публикации по теме adversarial, посвященные устойчивому машинному обучению