中文

基于转移矩阵的狄利克雷逐样本加权用于噪声标签学习

机器学习 2024-03-06 v1 计算机视觉与模式识别

摘要

在噪声标签学习中,转移矩阵显式建模了噪声标签分布与干净标签分布之间的关系,已被用于实现分类器或风险的统计一致性。以往的研究更多关注如何更好地估计该转移矩阵,而非如何利用它。我们提出有效利用转移矩阵至关重要,并建议一种基于重采样的新利用方法,命名为 RENT。具体而言,我们首先论证当前的利用方法在实现上可能存在局限性。作为对重加权(Reweighting)的扩展,我们提出了基于狄利克雷分布的逐样本权重采样(DWS)框架,并在 DWS 框架下比较了重加权与重采样。基于 DWS 的分析,我们提出了 RENT,一种结合噪声转移矩阵的重采样方法。实验表明,RENT 在各种基准数据集上始终优于现有的转移矩阵利用方法(包括重加权)。我们的代码可在 \url{https://github.com/BaeHeeSun/RENT} 获取。

关键词

引用

@article{arxiv.2403.02690,
  title  = {Dirichlet-based Per-Sample Weighting by Transition Matrix for Noisy Label Learning},
  author = {HeeSun Bae and Seungjae Shin and Byeonghu Na and Il-Chul Moon},
  journal= {arXiv preprint arXiv:2403.02690},
  year   = {2024}
}

备注

35 pages, 20 figures, Accepted to the twelfth International Conference on Learninig Representations (ICLR 24)