COLUR：基于置信度的学习、遗忘与重学习用于无标签数据模型恢复与精炼
机器学习
2025-06-25 v1
摘要
大型深度学习模型在 various 任务中取得了显著的成功。然而，当模型需要在带有误导性或模糊信息的噪声标签数据上训练时，其性能会显著下降。目前，针对因噪声标签数据导致的模型退化如何进行恢复的研究仍有限。灵感来自神经科学中的“遗忘机制”，该机制通过遗忘错误知识来加速正确知识的重学习，我们提出了一种鲁棒的模型恢复与精炼（MRR）框架COLUR，即 Confidence-Oriented Learning, Unlearning and Relearning。具体而言，我们采用一种高效的 co-training 架构实现COLUR，以遗忘标签噪声的影响，然后对每个标签的模型置信度进行精炼以进行重学习。在四个真实数据集上进行了大量实验，所有评估结果均表明，COLUR在完成MRR后 consistently 优于其他 SOTA 方法。
引用
@article{arxiv.2506.19496,
title = {COLUR: Confidence-Oriented Learning, Unlearning and Relearning with Noisy-Label Data for Model Restoration and Refinement},
author = {Zhihao Sui and Liang Hu and Jian Cao and Usman Naseem and Zhongyuan Lai and Qi Zhang},
journal= {arXiv preprint arXiv:2506.19496},
year = {2025}
}
备注
IJCAI 2025