解构理想噪声校正的失败:三柱诊断
机器学习
2026-03-16 v1 计算机视觉与模式识别
摘要
基于噪声转换矩阵()的统计一致方法提供了针对带噪标签学习(LNL)的理论依据,保证收敛至最优干净数据分类器。然而在实际应用中,这些方法常被经验方法(如样本选择)所超越,此现象通常归因于准确估计 的困难。普遍假设是:给定完美的 ,噪声校正方法将恢复其理论优势。本文对这一长期假设进行决定性检验。我们在理想条件下进行实验,为校正方法提供完美的、作为 oracle 的转换矩阵。即使在这些理想条件下,我们仍观察到这些方法在训练期间仍遭受性能崩溃。这充分表明,失败并非根本上是 估计问题,而源于更深层的根本性缺陷。为解释这一行为,我们提供了一个统一分析,将三个层面联系起来:宏观收敛状态、微观优化动力学以及从噪声标签学习的理论极限。综合这些结果,本文正式阐述了为何理想噪声校正失败,并为设计更可靠的带噪标签学习方法提供具体指导。
引用
@article{arxiv.2603.12997,
title = {Deconstructing the Failure of Ideal Noise Correction: A Three-Pillar Diagnosis},
author = {Chen Feng and Zhuo Zhi and Zhao Huang and Jiawei Ge and Ling Xiao and Nicu Sebe and Georgios Tzimiropoulos and Ioannis Patras},
journal= {arXiv preprint arXiv:2603.12997},
year = {2026}
}
备注
Accepted to CVPR2026