基于内容的无限制对抗攻击
计算机视觉与模式识别
2023-11-30 v2 人工智能
密码学与安全
摘要
无限制对抗攻击通常操纵图像的语义内容（如颜色或纹理）来创建既有效又照片逼真的对抗样本，展示其以隐蔽性和成功率欺骗人类感知与深度神经网络的能力。然而，当前工作通常牺牲无限制自由度并主观选择部分图像内容以保证无限制对抗样本的照片逼真度，这限制了其攻击性能。为保障对抗样本的照片逼真度并提升攻击性能，我们提出一种称为基于内容的无限制对抗攻击的新型无限制攻击框架。通过利用表示自然图像的低维流形，我们将图像映射至该流形上并沿其对抗方向进行优化。因此，在此框架内，我们基于 Stable Diffusion 实现了对抗内容攻击（ACA），能够生成具有多种对抗内容且高迁移性的无限制对抗样本。大量实验与可视化证明了 ACA 的有效性，尤其在正常训练模型与防御方法中分别平均超越最先进攻击 13.3-50.4% 和 16.8-48.0%。
引用
@article{arxiv.2305.10665,
title = {Content-based Unrestricted Adversarial Attack},
author = {Zhaoyu Chen and Bo Li and Shuang Wu and Kaixun Jiang and Shouhong Ding and Wenqiang Zhang},
journal= {arXiv preprint arXiv:2305.10665},
year = {2023}
}