通过对抗对比引导扩散过程提升对抗鲁棒性
机器学习
2023-07-06 v2 计算机视觉与模式识别
摘要
由于鲁棒学习相较于标准分类任务需要显著更多的训练样本，合成数据生成已成为提升分类任务中对抗鲁棒性的新兴工具。在各种深度生成模型中，扩散模型已被证明能够生成高质量合成图像，并在提升对抗鲁棒性方面取得良好表现。然而，与其他生成模型相比，扩散类方法在数据生成上通常较慢。尽管近期提出了不同的加速技术，研究如何提高所生成数据对下游任务的样本效率也同样重要。本文中，我们首先分析了实现非平凡鲁棒精度的合成分布最优性条件。我们表明，增强生成数据之间的可区分性对于提升对抗鲁棒性至关重要。因此，我们提出了对比引导扩散过程（Contrastive-DP），其采用对比损失来引导扩散模型进行数据生成。我们通过仿真验证了理论结果，并展示了 Contrastive-DP 在图像数据集上的良好性能。
引用
@article{arxiv.2210.09643,
title = {Improving Adversarial Robustness by Contrastive Guided Diffusion Process},
author = {Yidong Ouyang and Liyan Xie and Guang Cheng},
journal= {arXiv preprint arXiv:2210.09643},
year = {2023}
}