VENOM：基于扩散模型的文本驱动自由受对抗样本生成
计算机视觉与模式识别
2025-01-15 v1
摘要
对抗攻击在通过微小改变输入图像来欺骗机器学习模型方面已被证明有效，此激发了近年来大量研究。传统方法限制扰动在 范数范围内，但针对无限制对抗样本 (UAE) 的进展允许更复杂的、基于生成模型的变换。扩散模型因在稳定性和图像质量方面优于 GAN 而领先 UAE 的生成。然而，现有基于扩散的 UAE 方法局限于使用参考图像，且面临从随机噪声直接生成自然对抗样本 (NAE) 的挑战，往往产生控制不良或失真的输出。本文引入 VENOM，第一个基于文本驱动的高质量无限制对抗样本生成框架，通过扩散模型实现。VENOM 将图像内容生成和对抗合成统一到单个逆扩散过程中，使生成的对抗样本在不牺牲攻击成功率 (ASR) 的情况下保持高保真度。为稳定该过程，我们融入带动量的自适应对抗引导策略，确保生成的对抗样本 与自然图像的分布 对齐。大量实验表明，VENOM 在 ASR 和图像质量方面优于先前方法，标志着对抗样本生成的重大进展，并为改进防御开发提供了关于模型脆弱性的洞见。
引用
@article{arxiv.2501.07922,
title = {VENOM: Text-driven Unrestricted Adversarial Example Generation with Diffusion Models},
author = {Hui Kuurila-Zhang and Haoyu Chen and Guoying Zhao},
journal= {arXiv preprint arXiv:2501.07922},
year = {2025}
}