利用动量提升基于Stable Diffusion的对抗样本生成 imperceptibility
计算机视觉与模式识别
2024-10-18 v1 机器学习
摘要
我们提出了一种新框架——基于Stable Diffusion的动量集成对抗样本生成 (SD-MIAE)，用于生成能够有效误导神经网络分类器，同时保持视觉不可察觉性并保持与原始类别标签的语义相似性的对抗样本。该方法利用Stable Diffusion模型的文本到图像生成能力，通过操控其潜在空间中对应于指定类别的标记嵌入。这些标记嵌入引导生成保持高视觉保真度的对抗图像。SD-MIAE框架包含两个阶段：(1)初始对抗优化阶段修改标记嵌入以生成误分类但自然外观的图像；(2)基于动量的优化阶段细化对抗扰动。通过引入动量，我们的方法稳定了跨迭代的扰动优化，增强了生成对抗样本的误分类率和视觉保真度。实验结果表明，SD-MIAE实现了79%的高误分类率，相较于当前最先进的方法提升了35%，同时保持了对抗扰动的不可察觉性和与原始类别标签的语义相似性，使其成为一种实用的稳健对抗评估方法。
引用
@article{arxiv.2410.13122,
title = {Boosting Imperceptibility of Stable Diffusion-based Adversarial Examples Generation with Momentum},
author = {Nashrah Haque and Xiang Li and Zhehui Chen and Yanzhao Wu and Lei Yu and Arun Iyengar and Wenqi Wei},
journal= {arXiv preprint arXiv:2410.13122},
year = {2024}
}
备注
10 pages, 12 figures. To be published in IEEE TPS 2024 Proceedings. Code available on GitHub: https://github.com/nashrahhaque/SD-MIAE