面向噪声标签学习的变换一致性方法
计算机视觉与模式识别
2021-03-26 v1
摘要
区分错标样本对于处理噪声标签至关重要。此前的方法如Coteaching和JoCoR引入两个不同网络从噪声样本中筛选干净样本，并仅用这些干净样本训练深度模型。与这些需同时训练两个网络的方法不同，我们提出一种简单有效的方法，仅使用单一网络识别干净样本。我们发现干净样本对原始图像与变换后图像倾向于给出一致预测，而噪声样本通常面临不一致预测。受此观察启发，我们引入对原始图像与变换后图像之间变换一致性的约束以进行网络训练，然后选取小损失样本更新网络参数。此外，为减轻噪声标签的负面影响，我们设计了一种分类损失，利用离线硬标签与在线软标签为训练鲁棒模型提供更可靠的监督。我们在CIFAR-10、CIFAR-100和Clothing1M数据集上进行了全面实验。与基线相比，我们取得了最先进的性能。尤其在多数情况下，我们所提方法大幅优于基线。
引用
@article{arxiv.2103.13872,
title = {Transform consistency for learning with noisy labels},
author = {Rumeng Yi and Yaping Huang},
journal= {arXiv preprint arXiv:2103.13872},
year = {2021}
}