用于评估与增强对抗防御的引导式对抗攻击
计算机视觉与模式识别
2020-12-01 v1 机器学习
摘要
对抗攻击的发展一直是对抗防御研究取得进展的基础。高效且有效的攻击对于可靠地评估防御以及开发鲁棒模型至关重要。对抗攻击通常通过在使用投影梯度下降（PGD）的约束集内最大化交叉熵损失或最大间隔损失等标准损失来生成。在本工作中，我们向标准损失引入一个松弛项，其能找到更合适的梯度方向，提升攻击效能，并带来更高效的对抗训练。我们提出引导式对抗间隔攻击（GAMA），其利用干净图像的函数映射来引导对抗样本的生成，从而产生更强的攻击。我们针对多种防御评估了我们的攻击，并显示出相较于现有攻击更优的性能。此外，我们提出引导式对抗训练（GAT），其通过在攻击生成和训练中均利用所提出的松弛项，在单步防御中取得了最先进的性能。
引用
@article{arxiv.2011.14969,
title = {Guided Adversarial Attack for Evaluating and Enhancing Adversarial Defenses},
author = {Gaurang Sriramanan and Sravanti Addepalli and Arya Baburaj and R. Venkatesh Babu},
journal= {arXiv preprint arXiv:2011.14969},
year = {2020}
}
备注
NeurIPS 2020 (Spotlight)