Cycle-Consistent Adversarial GAN：对抗攻击与防御的集成
计算机视觉与模式识别
2019-04-15 v1
摘要
在深度学习的图像分类中，旨在添加小幅扰动作为输入的对抗样本可能会误导深度神经网络（DNN）得出错误结果，这意味着DNN容易受到它们的攻击。为了更好地研究深度学习的机制，人们已经提出了不同的攻击和防御策略。然而，这些网络中的研究仅针对单一方面，要么是攻击，要么是防御，而未考虑到攻击和防御应是相互依存、相互促进的，正如矛与盾之间的关系。在本文中，我们提出了Cycle-Consistent Adversarial GAN（CycleAdvGAN）来生成对抗样本，该网络能够学习并逼近原始实例和对抗样本的分布。对于CycleAdvGAN，一旦生成器和判别器训练完毕，就能高效地为任何实例生成对抗扰动，从而使DNN做出错误预测，并将对抗样本恢复为干净实例，从而使DNN做出正确预测。我们在两个公开数据集MNIST和CIFAR10上，在半白盒和黑盒设置下应用了CycleAdvGAN。通过大量实验，我们表明我们的方法实现了最先进的对抗攻击方法，并有效提升了防御能力，从而实现了对抗攻击与防御的集成。此外，仅在由任何类型的对抗攻击生成的对抗数据集上进行训练，就改善了攻击效果。
引用
@article{arxiv.1904.06026,
title = {Cycle-Consistent Adversarial GAN: the integration of adversarial attack and defense},
author = {Lingyun Jiang and Kai Qiao and Ruoxi Qin and Linyuan Wang and Jian Chen and Haibing Bu and Bin Yan},
journal= {arXiv preprint arXiv:1904.06026},
year = {2019}
}
备注
13 pages,7 tables, 1 figure