基于决策的通用对抗攻击
计算机视觉与模式识别
2021-01-06 v4
摘要
单个扰动即可使最自然的图像被分类器误分类。在黑盒设定下，当前的通用对抗攻击方法利用替代模型生成扰动，再将扰动应用于被攻击模型。然而，这种迁移往往产生较差的结果。在本研究中，我们直接在黑盒设定下生成通用对抗扰动。此外，我们旨在设计一种基于正交矩阵、生成具有条纹状纹理的单一扰动的对抗方法，因为顶层卷积层对条纹敏感。为此，我们提出一种高效的基于决策的通用攻击（DUAttack）。在少量数据下，所提对抗方法仅基于最终推断标签计算扰动，但不仅在跨模型间，也在跨越不同视觉任务时实现了良好的可迁移性。DUAttack 的有效性通过与其它最先进攻击的比较得到验证。DUAttack 的效率也在包括 Microsoft Azure 在内的真实世界设定中得以展示。此外，若干代表性防御方法难以应对 DUAttack，表明所提方法的实用性。
引用
@article{arxiv.2009.07024,
title = {Decision-based Universal Adversarial Attack},
author = {Jing Wu and Mingyi Zhou and Shuaicheng Liu and Yipeng Liu and Ce Zhu},
journal= {arXiv preprint arXiv:2009.07024},
year = {2021}
}