贝叶斯神经网络对白盒对抗攻击的鲁棒性
机器学习
2021-11-17 v1 密码学与安全
计算机视觉与模式识别
摘要
贝叶斯神经网络(BNNs)不同于传统神经网络(TNNs)，其通过引入随机性对对抗攻击具有鲁棒性且善于应对。这种随机性改进了不确定性估计，而TNNs缺乏该特性。因此，我们利用多种贝叶斯神经架构研究BNNs对白盒攻击的鲁棒性。此外，我们将贝叶斯推断(即变分贝叶斯)融合到DenseNet架构中创建了自己的BNN模型BNN-DenseNet，并通过将该干预与对抗训练结合创建BDAV。实验在CIFAR-10和FGVC-Aircraft数据集上进行。我们用强白盒攻击(-FGSM、-PGD、-PGD、EOT -FGSM和EOT -PGD)攻击我们的模型。在所有实验中，至少一种BNN在对抗攻击场景下优于传统神经网络。经对抗训练的BNN在大多数实验中优于其非贝叶斯、经对抗训练的对应模型，且常具显著优势。最后，我们研究网络校准，发现BNNs不会做出过度自信的预测，提供证据表明BNNs也更善于度量不确定性。
引用
@article{arxiv.2111.08591,
title = {Robustness of Bayesian Neural Networks to White-Box Adversarial Attacks},
author = {Adaku Uchendu and Daniel Campoy and Christopher Menart and Alexandra Hildenbrandt},
journal= {arXiv preprint arXiv:2111.08591},
year = {2021}
}
备注
Accepted at the fourth IEEE International Conference on Artificial Intelligence and Knowledge Engineering (AIKE 2021)