贝叶斯对抗球：无噪声设定下的贝叶斯推断与对抗样本
机器学习
2018-11-30 v1 机器学习
摘要
现代深度神经网络模型易受对抗样本的攻击，即输入空间中被高置信度误分类的点。已有研究表明贝叶斯神经网络是检测对抗点的一种有前景的方法，但由于这些模型的复杂性，细致分析十分困难。最近 Gilmer 等人（2018）提出了对抗球，一种简化该问题实际与理论分析的玩具设定。在本工作中，我们利用对抗球设定来理解无噪声设定下线性模型的近似贝叶斯推断方法的特性。我们比较了贝叶斯与非贝叶斯方法的预测，展示了前者的优势，同时也揭示了面向深度学习应用的开放挑战。
引用
@article{arxiv.1811.12335,
title = {Bayesian Adversarial Spheres: Bayesian Inference and Adversarial Examples in a Noiseless Setting},
author = {Artur Bekasov and Iain Murray},
journal= {arXiv preprint arXiv:1811.12335},
year = {2018}
}
备注
To appear in the third workshop on Bayesian Deep Learning (NeurIPS 2018), Montreal, Canada