Вероятностная сертификация

Растущее использование машинного обучения в критически важных с точки зрения безопасности средах повышает уязвимость к атакам со стороны злоумышленников. Существующие механизмы защиты, как правило, либо не имеют формальных гарантий, либо зависят от ограничительных предположений о семействе моделей, модели угроз или бюджете отравления, и многие предлагают только точечную сертификацию. Важно отметить, что они часто игнорируют присущую современным конвейерам обучения стохастичность, что подрывает их практическую надежность. В этой работе мы представляем вероятностную структуру, которая рассматривает обучение на основе градиента как дискретную стохастическую динамическую систему и формулирует устойчивость к отравлению как задачу проверки безопасности. Используя сертификаты барьеров (BC), мы выводим достаточные условия для вероятностной сертификации устойчивого радиуса против отравления в наихудшем случае ℓp-ограниченного значения, гарантируя, что конечные параметры модели остаются в пределах безопасного множества с вероятностной точностью. Для приемлемых вычислений мы представляем BC с помощью нейронных сетей и получаем гарантии вероятной приблизительной корректности (PAC) с помощью выпуклой задачи сценария. Наш подход определяет максимальный сертифицированный радиус, в пределах которого обученная модель достигает вероятностной точности при заранее заданном уровне доверия. Эксперименты на MNIST, SVHN, и CIFAR-10 показывают, что наша структура обеспечивает гарантии устойчивости при стохастическом обучении, при этом независима от модели и не требует знания стратегии атаки. - Probabilistic Robustness Certificates against Adversarial

P.S. См. также другие публикации по теме adversarial, посвященные устойчивому машинному обучению