扩散模型如何提升对抗鲁棒性?

近期发现表明,扩散模型显著增强了经验对抗鲁棒性。尽管已有一些直观解释,但支撑这些提升的精确机制仍不清楚。在本工作中,我们系统地研究了扩散模型如何以及能在多大程度上提升对抗鲁棒性。首先,我们观察到扩散模型令人意外地增大而非减小了到纯净样本的 $\ell_p$ 距离——这挑战了纯化将输入去噪至更接近原始数据的直觉。其次,我们发现纯化后的图像受扩散模型内部随机性的严重影响,在每种随机性配置下均会出现压缩效应。受此观察启发,我们在固定随机性下评估了鲁棒性,发现提升幅度在 CIFAR-10 上降至约 24%——远低于先前接近 70% 的报告。重要的是,我们表明这种剩余的鲁棒性增益与模型压缩输入空间的能力高度相关,揭示了压缩率可作为无需梯度分析的可靠鲁棒性指标。我们的发现为基于扩散的纯化机制提供了新见解,并为开发更有效、更有原则的对抗纯化系统提供了指导。