评估贝叶斯神经网络针对不同攻击类型的鲁棒性
机器学习
2021-06-18 v1 计算机视觉与模式识别
摘要
为评估贝叶斯神经网络在图像分类任务上的鲁棒性增益，我们对最先进的贝叶斯神经网络施加输入扰动和对抗攻击，并以基准 CNN 模型作为参照。所选攻击用于模拟针对基于 CNN 的机器学习系统的信号干扰与网络攻击。结果表明，无需对抗训练，贝叶斯神经网络对针对确定性神经网络模型生成的对抗攻击即实现了显著更高的鲁棒性。贝叶斯后验可作为正在进行恶意活动的安全先兆。此外，我们表明确定性 CNN 特征提取器之后的随机分类器具有充分的鲁棒性增强，而非随机分类器之前的随机特征提取器。这为在安全关键领域中构建决策流水线时利用随机层提供了建议。
引用
@article{arxiv.2106.09223,
title = {Evaluating the Robustness of Bayesian Neural Networks Against Different Types of Attacks},
author = {Yutian Pang and Sheng Cheng and Jueming Hu and Yongming Liu},
journal= {arXiv preprint arXiv:2106.09223},
year = {2021}
}