基于统计滤波的超网络防御对抗样本方法
计算机视觉与模式识别
2017-11-07 v1
摘要
深度学习算法已知在图像分类等多种任务中易受对抗扰动影响。该问题已通过采用若干防御方法来检测和拒绝特定类型攻击得以解决。然而，依据特定防御方案训练和操控网络增加了学习算法的计算复杂度。本文中，我们提出一种简单而有效的方法，通过使用数据依赖的自适应卷积核来提高卷积神经网络（CNNs）对对抗攻击的鲁棒性。为此，我们提出一种新型超网络（HyperNetwork），以利用输入数据和特征的统计特性来计算统计自适应映射。然后，我们用学习到的统计映射滤波 CNNs 的卷积权重，以计算动态核。从而，权重和核被联合优化，用于学习对对抗攻击鲁棒的图像分类模型，而无需采用额外的目标检测与拒绝算法。我们通过实验证明，所提方法使 CNNs 能够自发防御不同类型的攻击，例如由高斯噪声、快速梯度符号方法（Goodfellow 等，2014）和黑盒攻击（Narodytska & Kasiviswanathan，2016）生成的攻击。
引用
@article{arxiv.1711.01791,
title = {HyperNetworks with statistical filtering for defending adversarial examples},
author = {Zhun Sun and Mete Ozay and Takayuki Okatani},
journal= {arXiv preprint arXiv:1711.01791},
year = {2017}
}