利用对比协同Transformer从噪声标签中学习
计算机视觉与模式识别
2025-03-06 v1 机器学习
摘要
带噪声标签的深度学习是弱监督学习中的一个有趣挑战。尽管CNN具有显著的学习能力，但在存在噪声标签样本时倾向于过拟合。为了缓解这一问题，著名的协同训练框架被用作我们工作的基础。在本文中，我们引入了一个对比协同Transformer框架，该框架简单且快速，但与最先进方法相比能够大幅提升性能。我们论证了Transformer在处理标签噪声方面的鲁棒性。我们的对比协同Transformer方法能够利用数据集中的所有样本，无论其是干净还是噪声的。Transformer通过对比损失和分类损失的组合进行训练。在来自六个标准基准数据集（包括Clothing1M）的损坏数据上的广泛实验结果表明，我们的对比协同Transformer优于现有的最先进方法。
引用
@article{arxiv.2503.03042,
title = {Learning from Noisy Labels with Contrastive Co-Transformer},
author = {Yan Han and Soumava Kumar Roy and Mehrtash Harandi and Lars Petersson},
journal= {arXiv preprint arXiv:2503.03042},
year = {2025}
}