深度贝叶斯神经网络分类中蒙特卡洛与蒸馏方法的对抗鲁棒性评估
机器学习
2020-02-10 v1 机器学习
摘要
本文考虑在马尔可夫链蒙特卡洛（MCMC）与贝叶斯暗知识（BDK）推理近似下，评估深度神经网络模型的对抗鲁棒性问题。我们刻画了每种方法对两类对抗攻击的鲁棒性：快速梯度符号法（FGSM）与投影梯度下降（PGD）。我们表明，基于完整 MCMC 的推理具有极佳的鲁棒性，显著优于标准的点估计学习。另一方面，BDK 仅带来边际改进。作为额外贡献，我们提出了一种存储高效的方法，利用 FGSM 和 PGD 攻击为大型蒙特卡洛集成计算对抗样本。
引用
@article{arxiv.2002.02842,
title = {Assessing the Adversarial Robustness of Monte Carlo and Distillation Methods for Deep Bayesian Neural Network Classification},
author = {Meet P. Vadera and Satya Narayan Shukla and Brian Jalaian and Benjamin M. Marlin},
journal= {arXiv preprint arXiv:2002.02842},
year = {2020}
}
备注
Presented at SafeAI Workshop, AAAI 2020