SELC：自集成标签校正改进带噪标签学习
计算机视觉与模式识别
2022-05-04 v1 机器学习
摘要
深度神经网络易于过拟合噪声标签，导致泛化性能差。为克服该问题，我们提出一种简单有效的方法——自集成标签校正（SELC），逐步校正噪声标签并精炼模型。我们深入考察带噪标签训练中的记忆行为，观察到网络输出在早期阶段是可靠的。为保留此可靠知识，SELC 使用由网络输出指数移动平均形成的集成预测来更新原始噪声标签。我们表明使用 SELC 训练通过逐步减少来自噪声标签的监督并增加来自集成预测的监督来精炼模型。尽管简单，与许多 SOTA 方法相比，SELC 在类条件、实例依赖与真实世界标签噪声下取得更有前景且稳定的结果。代码见 https://github.com/MacLLL/SELC。
引用
@article{arxiv.2205.01156,
title = {SELC: Self-Ensemble Label Correction Improves Learning with Noisy Labels},
author = {Yangdi Lu and Wenbo He},
journal= {arXiv preprint arXiv:2205.01156},
year = {2022}
}
备注
Accepted to IJCAI 2022