基于单一扩散模型的鲁棒分类

扩散模型已被用于通过净化对抗噪声或生成真实数据以进行对抗训练来提升图像分类器的对抗鲁棒性。然而，基于扩散的净化可被更强的自适应攻击规避，而对抗训练在未知威胁下表现不佳，这些方法存在不可避免的局限。为更好地利用扩散模型的表达能力，本文提出鲁棒扩散分类器（RDC），一种由预训练扩散模型构建、具有对抗鲁棒性的生成式分类器。RDC 首先最大化给定输入的数据似然，然后利用通过贝叶斯定理由扩散模型估计的条件似然预测优化后输入的类别概率。为进一步降低计算成本，我们提出一种称为多头扩散的新扩散骨干网络并开发高效采样策略。由于 RDC 无需针对特定对抗攻击进行训练，我们证明其更能泛化以防御多种未知威胁。特别地，在 CIFAR-10 上，RDC 针对各种 $\ell_\infty$ 范数有界自适应攻击（$\epsilon_\infty=8/255$）实现了 $75.67\%$ 的鲁棒准确率，超越先前最先进的对抗训练模型 $+4.77\%$。结果凸显了相较于通常研究的判别式分类器，采用预训练扩散模型实现对抗鲁棒性的生成式分类器的潜力。代码见 \url{https://github.com/huanranchen/DiffusionClassifier}。