DiffAug:一种用于训练鲁棒分类器的扩散去噪增强方法
计算机视觉与模式识别
2024-05-30 v2 机器学习
摘要
我们提出 DiffAug,一种简单高效的基于扩散的增强技术,用于训练图像分类器,以实现至关重要且具挑战性的目标——提升分类器鲁棒性。对给定样本应用 DiffAug 包括一次前向扩散步骤和一次反向扩散步骤。我们使用 ResNet-50 和 Vision Transformer 架构,全面评估了用 DiffAug 训练的分类器,并展示了单步反向扩散在提升对协变量偏移的鲁棒性、认证对抗准确率和分布外检测方面的惊人效果。当我们将 DiffAug 与 AugMix 和 DeepAugment 等其他增强方法结合时,展示了进一步的鲁棒性提升。最后,基于该方法,我们还改进了分类器引导的扩散,观察到以下方面的提升:(i) 分类器泛化能力,(ii) 梯度质量(即改进的感知对齐)以及 (iii) 图像生成性能。因此我们引入了一种计算高效的训练技术,可在无需任何额外数据的情况下提升鲁棒性,并有效补充现有增强方法。
引用
@article{arxiv.2306.09192,
title = {DiffAug: A Diffuse-and-Denoise Augmentation for Training Robust Classifiers},
author = {Chandramouli Sastry and Sri Harsha Dumpala and Sageev Oore},
journal= {arXiv preprint arXiv:2306.09192},
year = {2024}
}
备注
Shorter version of this work was accepted in the CVPR 2024 Workshop on Synthetic Data for Computer Vision