重新审视随机神经网络中特征不确定性对对抗鲁棒性的影响
机器学习
2022-01-04 v1 密码学与安全
计算机视觉与模式识别
摘要
众所周知，深度神经网络（DNNs）已在诸多领域取得显著成功。然而，当在模型输入上添加难以察觉的微小扰动时，模型性能可能急剧下降。为解决此问题，近期提出了一种名为随机神经网络（SNNs）的随机化技术。具体而言，SNNs向模型中注入随机性以防御未知攻击并提升对抗鲁棒性。然而，已有关于SNNs的研究主要集中于向模型权重/激活中注入固定或可学习噪声。本文中，我们发现已有SNNs的性能在很大程度上受限于特征表示能力。令人惊讶的是，简单地最大化特征分布各维方差即可带来超越以往所有方法的显著提升，我们将其命名为最大化特征分布方差随机神经网络（MFDV-SNN）。在知名白盒与黑盒攻击上的大量实验表明，MFDV-SNN相较现有方法取得显著改进，说明其是一种简单而有效的提升模型鲁棒性的方法。
引用
@article{arxiv.2201.00148,
title = {Rethinking Feature Uncertainty in Stochastic Neural Networks for Adversarial Robustness},
author = {Hao Yang and Min Wang and Zhengfei Yu and Yun Zhou},
journal= {arXiv preprint arXiv:2201.00148},
year = {2022}
}