文本到图像扩散模型上的对抗攻击与对抗鲁棒性：综述
密码学与安全
2024-09-16 v2 人工智能
计算机视觉与模式识别
摘要
最近，文本到图像扩散模型因其卓越的图像生成能力而受到社区广泛关注。代表性模型 Stable Diffusion 在发布两个月后迅速获得超过 100 万用户。这一流行潮推动了对这些模型鲁棒性与安全性的研究，催生了各种对抗攻击方法。同时，针对提升模型鲁棒性与安全性的防御方法研究也呈显著上升趋势。本综述提供了关于针对文本到图像扩散模型的对抗攻击与防御的全面文献综述。我们首先概述文本到图像扩散模型，随后介绍对抗攻击的分类框架并深入综述现有攻击方法。接着，我们详细分析旨在提升模型鲁棒性与安全性的当前防御方法。最后，我们讨论 ongoing 挑战并探讨有前景的未来研究方向。有关本综述涵盖的对抗攻击与防御方法完整列表，请参阅我们的精选仓库 https://github.com/datar001/Awesome-AD-on-T2IDM。
引用
@article{arxiv.2407.15861,
title = {Adversarial Attacks and Defenses on Text-to-Image Diffusion Models: A Survey},
author = {Chenyu Zhang and Mingwang Hu and Wenhui Li and Lanjun Wang},
journal= {arXiv preprint arXiv:2407.15861},
year = {2024}
}
备注
Accepted for Information Fusion. Related benchmarks and codes are available at \url{https://github.com/datar001/Awesome-AD-on-T2IDM}