利用稳定扩散提升对抗迁移性
计算机视觉与模式识别
2023-11-21 v1
摘要
深度神经网络 (DNNs) 易受对抗样本的攻击，对抗样本向良性样本引入难以察觉的扰动以欺骗 DNN 预测。尽管一些攻击方法在白盒设定下表现出色，它们常在黑盒场景中陷入困境，尤其面对配备防御机制的模型时。多种技术已涌现以增强黑盒场景下对抗攻击的迁移性。其中，基于输入变换的攻击已证明其有效性。本文中，我们探索利用 Stable Diffusion 生成的数据来提升对抗迁移性的潜力。该方法受近期研究的启发，这些研究借助 Stable Diffusion 生成的合成数据增强模型泛化能力。特别地，先前工作已强调真实与合成数据共存与模型泛化提升间的关联。基于该洞见，我们引入一种称为稳定扩散攻击方法 (SDAM) 的新攻击方法，其融入 Stable Diffusion 生成的样本以增广输入图像。此外，我们提出 SDAM 的快速变体，在保持高对抗迁移性的同时降低计算开销。我们广泛的实验结果表明，我们的方法以显著优势优于最先进的基线。而且，我们的方法与现有基于迁移的攻击兼容，可进一步增强对抗迁移性。
引用
@article{arxiv.2311.11017,
title = {Improving Adversarial Transferability by Stable Diffusion},
author = {Jiayang Liu and Siyu Zhu and Siyuan Liang and Jie Zhang and Han Fang and Weiming Zhang and Ee-Chien Chang},
journal= {arXiv preprint arXiv:2311.11017},
year = {2023}
}