一种利用对比学习处理噪声标签分类的框架
计算机视觉与模式识别
2021-04-21 v1 机器学习
摘要
我们提出一种以对比学习作为预训练任务、在存在噪声标签情况下执行图像分类的框架。近期策略如伪标签、基于高斯混合模型的样本选择、加权监督对比学习已被组合进预训练后的微调阶段。本文提供广泛的实证研究，表明在使用不同损失函数（非鲁棒、鲁棒和早学习正则化）时，初步的对比学习步骤带来显著的性能提升。我们在标准基准和真实世界数据集上的实验表明：i) 对比预训练提升了任意损失函数对噪声标签的鲁棒性；ii) 额外的微调阶段可进一步提高准确率，但代价是增加额外复杂度。
引用
@article{arxiv.2104.09563,
title = {A Framework using Contrastive Learning for Classification with Noisy Labels},
author = {Madalina Ciortan and Romain Dupuis and Thomas Peel},
journal= {arXiv preprint arXiv:2104.09563},
year = {2021}
}
备注
22 pages