标签噪声的协调稀疏恢复
机器学习
2024-04-09 v1 计算机视觉与模式识别
机器学习
摘要
标签噪声是真实数据集中常见的问题,不可避免地影响模型的泛化能力。本研究关注标签噪声依赖于实例的鲁棒分类任务。准确估计该任务中的转移矩阵具有挑战性,基于样本选择的方法往往表现出不同程度的确认偏差。稀疏过参数化训练(SOP)在理论上能有效估计和恢复标签噪声,为噪声标签学习提供了新的解决方案。然而,本研究通过实验观察并验证了SOP的一个技术缺陷:模型预测与噪声恢复之间缺乏协调,导致泛化误差增加。为了解决这个问题,我们提出了一种称为协调稀疏恢复(CSR)的方法。CSR引入协作矩阵和置信权重来协调模型预测和噪声恢复,减少误差泄漏。基于CSR,本研究设计了一种联合样本选择策略,并构建了一个全面且强大的学习框架CSR+。CSR+显著减少了确认偏差,尤其是在类别较多且实例特定噪声比例较高的数据集上。在模拟和真实噪声数据集上的实验结果表明,CSR和CSR+与同级别方法相比均取得了优异的性能。
引用
@article{arxiv.2404.04800,
title = {Coordinated Sparse Recovery of Label Noise},
author = {Yukun Yang and Naihao Wang and Haixin Yang and Ruirui Li},
journal= {arXiv preprint arXiv:2404.04800},
year = {2024}
}
备注
Pre-print prior to submission to journal