面向扩散式净化：从随机性视角理解其鲁棒性
计算机视觉与模式识别
2025-04-08 v3
摘要
扩散式净化（DBP）已成为对抗攻击的有效防御机制。DBP 的成功往往归因于前向扩散过程，通过添加高斯噪声来缩小干净图像与对抗图像之间的分布差距。虽然这种解释在理论上是正确的，但在增强鲁棒性中这一机制的具体作用仍不清晰。本文通过实证分析，我们提出DBP过程中的内在随机性是驱动鲁棒性的主要因素。为测试此假设，我们引入一种新的确定性白盒（Deterministic White-Box, DW-box）设置，以无随机性的情况评估鲁棒性，并分析攻击轨迹和损失景观。我们的结果表明，DBP 模型主要依赖于随机性以避免有效的攻击方向，而其净化对抗扰动的能力可能有限。为进一步增强 DBP 模型的鲁棒性，我们提出了对抗去噪扩散训练（Adversarial Denoising Diffusion Training, ADDT），该方法将分类器引导的对抗扰动纳入扩散训练过程，从而加强模型净化对抗扰动的能力。此外，我们提出基于秩的高斯映射（Rank-Based Gaussian Mapping, RBGM）以提高扰动与扩散模型的兼容性。实验结果验证了 ADDT 的有效性。总之，我们的研究表明，未来的 DBP 研究可以从清晰区分随机性驱动型和净化驱动型鲁棒性的角度获得帮助。
引用
@article{arxiv.2404.14309,
title = {Towards Understanding the Robustness of Diffusion-Based Purification: A Stochastic Perspective},
author = {Yiming Liu and Kezhao Liu and Yao Xiao and Ziyi Dong and Xiaogang Xu and Pengxu Wei and Liang Lin},
journal= {arXiv preprint arXiv:2404.14309},
year = {2025}
}