用于标签噪声鲁棒性的多目标插值训练
计算机视觉与模式识别
2021-03-19 v2
摘要
使用标准交叉熵损失训练的深层神经网络会记忆噪声标签,从而降低其性能。大多数缓解这种记忆的研究提出了新的鲁棒分类损失函数。相反,我们提出了一种多目标插值训练(MOIT)方法,其联合利用对比学习和分类来相互帮助并提升针对标签噪声的性能。我们表明标准监督对比学习在标签噪声存在时会退化,并提出了一种插值训练策略来缓解该行为。我们进一步提出了一种新颖的标签噪声检测方法,其利用通过对比学习获得的鲁棒特征表示来估计每样本的软标签,这些软标签与原始标签的不一致可准确识别噪声样本。该检测允许将噪声样本视为未标记样本,并以半监督方式训练分类器,以防止噪声记忆并改进表示学习。我们进一步提出了MOIT+,即通过在对检测出的干净样本上微调来对MOIT进行精炼。超参数和消融研究验证了该方法的关键组件。在合成和真实世界噪声基准上的实验表明,MOIT/MOIT+取得了最先进的结果。代码见 https://git.io/JI40X。
引用
@article{arxiv.2012.04462,
title = {Multi-Objective Interpolation Training for Robustness to Label Noise},
author = {Diego Ortego and Eric Arazo and Paul Albert and Noel E. O'Connor and Kevin McGuinness},
journal= {arXiv preprint arXiv:2012.04462},
year = {2021}
}
备注
Accepted to CVPR 2021. 10 pages, 1 figure, and 9 tables