CLID-MU:基于跨层信息散度的带噪标签学习元更新策略
机器学习
2025-07-17 v1 人工智能
摘要
带噪标签的学习(LNL)对于训练具有不完美数据的深度神经网络至关重要。元学习方法通过使用干净且无偏的标记集来训练稳健模型,已取得成功。然而,这种方法严重依赖于干净标记 meta-dataset 的可用性,这在实际中难以获得。本文因此针对不依赖干净标记数据集的噪声标签场景下的元学习挑战进行了解决。我们的方法利用数据本身,同时绕过标签需求。基于干净样本有效保持最后一个隐藏层和最终层之间相关数据结构一致性,而噪声样本则破坏这种一致性这一洞见,我们设计了基于跨层信息散度的元更新策略(CLID-MU)。CLID-MU 利用这些多样化特征空间中数据结构的对齐来评估模型性能,并利用这种对齐指导训练。在在带有不同标签比例的数据集上的实验中,分别在合成和真实世界噪声情景下,证明了 CLID-MU 优于最先进的方法。我们在 https://github.com/ruofanhu/CLID-MU 上发布了代码。
引用
@article{arxiv.2507.11807,
title = {CLID-MU: Cross-Layer Information Divergence Based Meta Update Strategy for Learning with Noisy Labels},
author = {Ruofan Hu and Dongyu Zhang and Huayi Zhang and Elke Rundensteiner},
journal= {arXiv preprint arXiv:2507.11807},
year = {2025}
}
备注
KDD 2025, 12 pages, 7 figures