GradDiv：通过梯度多样性正则化提升随机神经网络的对抗鲁棒性
机器学习
2021-07-07 v1
摘要
深度学习易受对抗样本攻击。许多基于随机神经网络的防御方法被提出以解决该问题，但未能实现对使用代理梯度的攻击（如期望变换(Expectation over Transformation, EOT)攻击）的鲁棒性。我们研究了使用代理梯度的对抗攻击对随机神经网络的影响，并证明其在很大程度上依赖于随机神经网络损失梯度的方向分布。我们特别表明，当梯度更分散时，代理梯度效果更差。为此，我们提出了梯度多样性(Gradient Diversity, GradDiv)正则化方法，通过最小化梯度的集中程度来构建鲁棒的随机神经网络。我们在MNIST、CIFAR10和STL10上的实验表明，我们提出的GradDiv正则化提升了随机神经网络针对多种最先进攻击方法的对抗鲁棒性。此外，我们的方法有效降低了随机神经网络中采样模型之间的可迁移性。
引用
@article{arxiv.2107.02425,
title = {GradDiv: Adversarial Robustness of Randomized Neural Networks via Gradient Diversity Regularization},
author = {Sungyoon Lee and Hoki Kim and Jaewook Lee},
journal= {arXiv preprint arXiv:2107.02425},
year = {2021}
}