面向贝叶斯神经网络的无梯度对抗攻击
机器学习
2020-12-24 v1 密码学与安全
摘要
对抗样本的存在凸显了理解机器学习模型鲁棒性的重要性。贝叶斯神经网络（BNNs）由于其校准的不确定性，已显示出良好的对抗鲁棒性。然而，当采用近似贝叶斯推断方法时，BNNs的对抗鲁棒性仍未被很好理解。在本工作中，我们采用无梯度优化方法来寻找BNNs的对抗样本。具体而言，我们考虑遗传算法、代理模型以及零阶优化方法，并将它们适配于寻找BNNs对抗样本的目标。在MNIST和Fashion MNIST数据集上的实证评估中，我们表明对于各种近似贝叶斯推断方法，与使用最先进基于梯度的方法相比，无梯度算法的使用可大幅提高寻找对抗样本的成功率。
引用
@article{arxiv.2012.12640,
title = {Gradient-Free Adversarial Attacks for Bayesian Neural Networks},
author = {Matthew Yuan and Matthew Wicker and Luca Laurenti},
journal= {arXiv preprint arXiv:2012.12640},
year = {2020}
}
备注
6 Pages, 2 Figures, AABI2021