ColorFool：基于语义的对抗性着色
计算机视觉与模式识别
2020-04-14 v2
摘要
生成微小 L_p 范数扰动以误导分类器的对抗攻击在黑盒设定下以及对未知分类器上成功率有限。这些攻击对使用去噪滤波器的防御和对抗训练过程也不鲁棒。相反，生成无限制扰动的对抗攻击对防御更鲁棒，在黑盒设定下通常更成功，且对未知分类器更具可迁移性。然而，无限制扰动可能被人察觉。本文中，我们提出一种基于内容的黑盒对抗攻击，其通过利用图像语义在选定范围内选择性修改颜色来生成无限制扰动，这些修改在人类看来是自然合理的。我们表明，所提出的方法 ColorFool 在攻击三个最先进的深度神经网络、使用三个标准数据集时，在成功率、对防御框架的鲁棒性和可迁移性方面，优于两种不同任务（场景与物体分类）上的五种最先进对抗攻击。源代码见 https://github.com/smartcameras/ColorFool。
引用
@article{arxiv.1911.10891,
title = {ColorFool: Semantic Adversarial Colorization},
author = {Ali Shahin Shamsabadi and Ricardo Sanchez-Matilla and Andrea Cavallaro},
journal= {arXiv preprint arXiv:1911.10891},
year = {2020}
}
备注
Conference on Computer Vision and Pattern Recognition (CVPR2020)