基于信息散度重加权目标的学习式忘卜:面对带噪标签
机器学习
2025-08-12 v1 机器学习
摘要
我们提出 ANTIDOTE,一种用于处理带噪标签的新型目标函数,其以信息散度邻域中的松弛形式定义。利用凸对偶性,我们提供了一种类似使用标准交叉熵损失时计算成本的对抗训练方法的 reformulation。我们展示了该方法在学习过程中对带噪标签样本具有自适应降低影响的能力,展现出类似“忘卜”这些样本的行为。ANTIDOTE 在实际环境中效果显著,这些环境中存在训练数据中的标签噪声,或存在敌对者可操控训练标签的情况。广泛的实证评估覆盖不同程度的对称噪声、非对称噪声、人工标注噪声以及真实世界的标签噪声,结果显示 ANTIDOTE 在该领域优于领导性对手损失函数,并拥有与标准交叉熵损失相近的时间复杂度。
引用
@article{arxiv.2508.06622,
title = {Learning to Forget with Information Divergence Reweighted Objectives for Noisy Labels},
author = {Jeremiah Birrell and Reza Ebrahimi},
journal= {arXiv preprint arXiv:2508.06622},
year = {2025}
}
备注
25 pages, 2 figures