基于反馈回路的集成生成式净化防御对抗攻击
计算机视觉与模式识别
2020-04-24 v1
摘要
深度神经网络针对对抗攻击的有效防御仍是一个具有挑战性的问题，尤其是在强大的白盒攻击下。本文中，我们提出了一种称为基于反馈回路的集成生成式净化（EGC-FL）的新方法，用于深度神经网络的有效防御。所提出的 EGC-FL 方法基于两个核心思想。首先，我们在防御网络中引入一个变换死区层，其由正交变换和基于死区的激活函数组成，以破坏对抗攻击的复杂噪声模式。其次，通过构建带反馈回路的生成式净化网络，我们能够生成原始干净图像的多样化估计集合。然后我们学习一个网络将该组多样化估计融合以恢复原始图像。我们广泛的实验结果表明，我们的方法在白盒和黑盒攻击下均以大幅优势提升了当前最优水平。在 SVHN 数据集上，它将白盒 PGD 攻击的分类准确率相较第二优方法提升了超过 29%，在具有挑战性的 CIFAR-10 数据集上提升了超过 39%。
引用
@article{arxiv.2004.11273,
title = {Ensemble Generative Cleaning with Feedback Loops for Defending Adversarial Attacks},
author = {Jianhe Yuan and Zhihai He},
journal= {arXiv preprint arXiv:2004.11273},
year = {2020}
}
备注
8 pages, 8 figures