大规模噪声标签学习中基于代理的标签纠正的高效双层优化
机器学习
2026-05-19 v1 人工智能
摘要
使用噪声标签训练深度神经网络可降低数据标注成本，但可能引入噪声。元标签纠正方法中，除了主模型外，还需在小规模干净数据集上训练额外的元模型，以纠正大规模噪声数据集。然而，元模型的更新需要在主模型的内层步骤计算超梯度，这显著增加计算成本。为提高训练效率，我们首先引入动态屏障梯度下降于标准元标签纠正方法。尽管该简单扩展可将训练过程加速至一阶复杂度，但缺乏防止噪声信号泄漏至主模型以及稳定元模型学习的机制。基于此，我们提出EBOMLC方法，包含三项关键改进：一阶内层循环更新、混合上损失和感知对齐动态屏障。在CIFAR-10和CIFAR-100数据集上进行实验，表明EBOMLC在各种基线方法上均表现优异，尤其在高噪声率情形下，同时大幅减少元标签纠正方法的训练时间。
引用
@article{arxiv.2605.17833,
title = {Efficient Bilevel Optimization for Meta Label Correction in Noisy Label Learning},
author = {Ba Hoang Anh Nguyen and Viet Cuong Ta},
journal= {arXiv preprint arXiv:2605.17833},
year = {2026}
}