面向图像分类的软增强
计算机视觉与模式识别
2024-01-25 v2
摘要
现代神经网络是过参数化的,因此依赖强正则化(如数据增强与权重衰减)来减少过拟合并提升泛化能力。主导的数据增强形式应用不变变换,其中样本的学习目标对该样本所施加的变换是不变的。我们从人类视觉分类研究中获得启发,提出将不变变换的增强推广为软增强,其中学习目标随样本所施加变换程度的增加而非线性软化:例如,更激进的图像裁剪增强产生置信度更低的学习目标。我们证明软目标允许更激进的数据增强,提供更鲁棒的性能提升,可与其他增强策略协同工作,且有趣的是,产生校准更好的模型(因为它们被训练为对激进裁剪/遮挡样本更不自信)。结合现有激进增强策略,软目标 1) 在 Cifar-10、Cifar-100、ImageNet-1K 和 ImageNet-V2 上将 top-1 准确率提升翻倍,2) 将模型遮挡性能提升至多 ,且 3) 将期望校准误差(ECE)减半。最后,我们展示软增强可推广至自监督分类任务。代码见 https://github.com/youngleox/soft_augmentation
引用
@article{arxiv.2211.04625,
title = {Soft Augmentation for Image Classification},
author = {Yang Liu and Shen Yan and Laura Leal-Taixé and James Hays and Deva Ramanan},
journal= {arXiv preprint arXiv:2211.04625},
year = {2024}
}