中文

在带噪标签学习中以可聚类性替代锚点

机器学习 2021-07-15 v2 人工智能 机器学习

摘要

标签噪声转移矩阵刻画了训练样本被错误标注的概率,是设计带噪标签学习主流方案的关键。现有工作严重依赖于寻找“锚点”或其近似,锚点定义为几乎确定属于某一特定类的样本。然而,寻找锚点仍是一项非平凡任务,且估计精度常受可用锚点数量的限制。本文针对上述任务提出了一种替代方案。我们的主要贡献是基于可聚类性条件发现了一种高效的估计过程。我们证明,在特征具有可聚类表示的情况下,利用邻近表示间噪声标签的最高三阶一致性,足以估计出唯一的转移矩阵。与使用锚点的方法相比,我们的方法使用了显著更多的样本,并受益于更优的样本复杂度。我们在合成噪声标签(CIFAR-10/100)和真实人类级噪声标签(Clothing1M 及我们自采集的人工标注 CIFAR-10)上展示了我们估计的精度与优势。我们的代码和人类级噪声 CIFAR-10 标签可在 https://github.com/UCSC-REAL/HOC 获取。

关键词

引用

@article{arxiv.2102.05291,
  title  = {Clusterability as an Alternative to Anchor Points When Learning with Noisy Labels},
  author = {Zhaowei Zhu and Yiwen Song and Yang Liu},
  journal= {arXiv preprint arXiv:2102.05291},
  year   = {2021}
}

备注

ICML 2021