通过动态连接遮蔽对抗带噪标签
机器学习
2025-10-02 v2 计算机视觉与模式识别
摘要
现实场景中不带噪标签不可避免。由于深度神经网络的强大记忆能力，这些带噪标签会导致显著的性能下降。目前针对缓解带噪标签负面影响的研究主要集中在鲁棒损失函数和样本选择方面，而在模型架构的正则化方面的探索相对有限。灵感来自Kolmogorov-Arnold网络（KANs）中用于稀疏正则化的做法，我们提出了一种动态连接遮蔽（DCM）机制，用于多层感知器网络（MLPs）和KANs，以增强分类器对带噪标签的鲁棒性。该机制通过评估其信息携带能力来自适应地屏蔽较不重要的边缘。通过理论分析，我们展示了其在减少梯度误差方面的效率。我们的方法可以无缝集成到各种噪声鲁棒训练方法中，以构建更鲁棒的深度网络，包括鲁棒损失函数、样本选择策略和正则化技术。大量实验在合成数据和真实基准上表明，我们的方法始终优于最先进（SOTA）方法。此外，我们还是首次探讨将KANs作为带噪标签下的分类器进行研究，揭示了KANs在真实噪声场景下相较于MLPs具有更好的噪声鲁棒性。我们的代码将很快公开获取。
引用
@article{arxiv.2508.09697,
title = {Combating Noisy Labels via Dynamic Connection Masking},
author = {Xinlei Zhang and Fan Liu and Chuanyi Zhang and Fan Cheng and Yuhui Zheng},
journal= {arXiv preprint arXiv:2508.09697},
year = {2025}
}