结构至关重要：面向可迁移对抗图像生成
计算机视觉与模式识别
2020-08-17 v3 机器学习
摘要
近期关于图像分类对抗样本的研究侧重于以微小扰动直接修改像素。施加微小扰动约束是为了确保生成的对抗样本对人类而言自然且真实，然而这限制了攻击空间，从而制约了攻击能力与可迁移性，尤其是在受防御机制保护的系统中。本文提出结构模式与结构感知扰动的新概念，在放松微小扰动约束的同时仍保持图像的自然性。我们方法的核心思想是允许对抗样本存在可感知的偏差，同时保留对人类分类器至关重要的结构模式。基于这些概念，我们提出一种结构保持攻击（structure-preserving attack, SPA），用于生成具有极高可迁移性的自然对抗样本。在 MNIST 与 CIFAR10 数据集上的实证结果表明，即便应用了防御，SPA 在白盒与黑盒设定下均展现出强大的攻击能力。此外，结合 PGD 或 CW 攻击后，其在白盒设定下的攻击能力急剧提升，且不损失 SPA 固有的卓越可迁移性。
引用
@article{arxiv.1910.09821,
title = {Structure Matters: Towards Generating Transferable Adversarial Images},
author = {Dan Peng and Zizhan Zheng and Linhao Luo and Xiaofeng Zhang},
journal= {arXiv preprint arXiv:1910.09821},
year = {2020}
}
备注
accepted to ECAI 2020