主动负损失:面向带噪标签学习的鲁棒框架
计算机视觉与模式识别
2025-12-01 v3
摘要
深度监督学习在广泛的任务中取得了显著的成功,但面对噪声标签时仍容易过拟合。为此,噪声鲁棒损失函数为增强在噪声标签下的学习提供了有效解决方案。本文系统性地调查了最近提出的主动被动损失(APL)的局限性,该方法将平均绝对误差(MAE)作为其被动损失函数。尽管MAE带来了鲁棒性,但其关键缺点是对干净样本和噪声样本关注度相同;这会减慢收敛速度,并可能使训练变得困难,尤其是在大规模数据集上。为克服这些挑战,我们引入一种新型损失函数类,称为标准化负损失函数(NNLF),其可作为APL框架中的被动损失函数使用。NNLF有效解决了MAE的局限性,通过更关注已记忆的干净样本来实现此目标。通过将本文提出的NNLF替换APL中的MAE,我们增强了APL并构建了一个新的框架,称为主动负损失(ANL)。此外,在非对称噪声情形下,我们提出一种基于熵的正则化技术,以缓解其对标签不平衡的脆弱性。广泛的实验表明,我们ANL框架所采用的最新损失函数在各种标签噪声类型和图像分割任务中,能实现更好或相当于当前最先进方法的性能。源代码可在 https://github.com/Virusdoll/Active-Negative-Loss 获取。
引用
@article{arxiv.2412.02373,
title = {Active Negative Loss: A Robust Framework for Learning with Noisy Labels},
author = {Xichen Ye and Yifan Wu and Yiqi Wang and Xiaoqiang Li and Weizhong Zhang and Yifan Chen},
journal= {arXiv preprint arXiv:2412.02373},
year = {2025}
}
备注
This work has been submitted to the IEEE for possible publication