带噪声标签的双子对比学习
计算机视觉与模式识别
2023-03-14 v1 人工智能
摘要
从噪声数据中学习是一项极具挑战的任务，会显著退化模型性能。本文提出 TCL，一种新颖的双子对比学习模型，用于学习鲁棒表示并处理分类中的噪声标签。具体而言，我们在表示上构建高斯混合模型（GMM），通过将监督模型预测注入 GMM，将 GMM 中无标签潜变量与含噪标签标注相链接。随后，TCL 借助另一个双组分 GMM，考虑数据分布，将错标样本检测为分布外样本。我们进一步提出带熵正则损失的跨监督方法，从模型预测中自助出真实目标以处理噪声标签。因此，TCL 可通过 mixup 和对比学习，学习与估计标签对齐的判别性表示。在多个标准基准和真实世界数据集上的大量实验结果证明了 TCL 的优越性能。特别地，在 90% 噪声标签的极端噪声场景下，TCL 在 CIFAR-10 上取得了 7.5% 的提升。源代码见 \url{https://github.com/Hzzone/TCL}。
引用
@article{arxiv.2303.06930,
title = {Twin Contrastive Learning with Noisy Labels},
author = {Zhizhong Huang and Junping Zhang and Hongming Shan},
journal= {arXiv preprint arXiv:2303.06930},
year = {2023}
}
备注
CVPR 2023