对抗多样性与难正样本生成
计算机视觉与模式识别
2016-05-18 v2
摘要
最先进的深度神经网络存在一个根本问题——它们会误分类通过对输入施加微小扰动而形成的对抗样本。在本文中，我们提出一种新的心理测量感知对抗相似度分数（PASS）度量来量化对抗图像，引入难正样本生成（hard positive generation）的概念，并使用一组多样化的对抗扰动——而不仅仅是最近的那些——进行数据增强。我们提出一种新颖的冷/热（hot/cold）方法来生成对抗样本，其为每幅图像提供多种可能的对抗扰动。我们的新方法生成的扰动通常对应于具有语义意义的图像结构，并允许更灵活地缩放扰动幅度，从而产生更高多样性的对抗图像。我们在多个网络拓扑和数据集上展示对抗图像，包括MNIST数据集上的LeNet，以及ImageNet数据集上的GoogLeNet和ResidualNet。最后，我们在LeNet和GoogLeNet上证明，与使用先前生成对抗图像的方法训练相比，用多样化难正样本微调可提升这些网络的鲁棒性。
引用
@article{arxiv.1605.01775,
title = {Adversarial Diversity and Hard Positive Generation},
author = {Andras Rozsa and Ethan M. Rudd and Terrance E. Boult},
journal= {arXiv preprint arXiv:1605.01775},
year = {2016}
}
备注
Accepted to CVPR 2016 DeepVision Workshop