面向带噪标签深度学习的置信度自适应正则化
机器学习
2021-09-07 v2 计算机视觉与模式识别
摘要
近期关于深度神经网络对噪声标签记忆效应的研究表明，网络会先拟合正确标注的训练样本，之后才记忆错标样本。受此早期学习现象启发，我们提出一种防止错标样本被记忆的新方法。不同于现有利用模型输出识别或忽略错标样本的方法，我们向原模型引入一个指示分支，使模型能为每个样本产生置信度值。该置信度值被纳入我们的损失函数，该函数学习为正确标注样本赋予大置信度值、为错标样本赋予小置信度值。我们还提出一个辅助正则化项以进一步提升模型鲁棒性。为改进性能，我们通过精心设计的标签估计策略逐步纠正噪声标签。我们提供了理论分析，并在合成与真实世界数据集上开展实验，表明我们的方法取得了与 SOTA 方法相当的结果。
引用
@article{arxiv.2108.08212,
title = {Confidence Adaptive Regularization for Deep Learning with Noisy Labels},
author = {Yangdi Lu and Yang Bo and Wenbo He},
journal= {arXiv preprint arXiv:2108.08212},
year = {2021}
}