Adv-BNN：通过鲁棒贝叶斯神经网络改进对抗防御
机器学习
2019-05-07 v2 人工智能
密码学与安全
机器学习
摘要
我们提出一种新算法以训练对抗攻击下的鲁棒神经网络。我们的算法受以下两点启发。首先，尽管近期工作表明融合随机性可提升神经网络鲁棒性（Liu 2017），但我们注意到盲目向所有层添加噪声并非引入随机性的最优方式。相反，我们在贝叶斯神经网络（BNN）框架下对随机性建模，以可扩展方式形式化学习模型的后验分布。其次，我们在 BNN 中表述极小极大问题，以在对抗攻击下学习最佳模型分布，从而得到对抗训练的贝叶斯神经网。实验结果表明，所提算法在强攻击下达到最先进（state-of-the-art）性能。在 CIFAR-10 与 VGG 网络上，相较于对抗训练（Madry 2017）与随机自集成（Liu 2017），我们的模型在失真 的 PGD 攻击下准确率提升 14%，且在 ImageNet 的一个子集上差距更大。
引用
@article{arxiv.1810.01279,
title = {Adv-BNN: Improved Adversarial Defense through Robust Bayesian Neural Network},
author = {Xuanqing Liu and Yao Li and Chongruo Wu and Cho-Jui Hsieh},
journal= {arXiv preprint arXiv:1810.01279},
year = {2019}
}
备注
Code will be made available at https://github.com/xuanqing94/BayesianDefense