中文

有界实例与标签依赖标签噪声下的学习

机器学习 2020-12-14 v3 机器学习

摘要

实例与标签依赖的标签噪声(ILN)广泛存在于真实数据集中,但很少被研究。在本文中,我们关注有界实例与标签依赖标签噪声(BILN),它是ILN的一种特殊情况,其中标签噪声率——即示例的真实标签翻转为损坏标签的概率——具有小于 11 的上界。具体而言,我们引入蒸馏样本的概念,即其标签与贝叶斯最优分类器为其分配的标签相同的样本,并证明在某些条件下,在蒸馏样本上学习的分类器将收敛于贝叶斯最优分类器。受使用蒸馏样本学习思想的启发,我们随后提出一种学习算法,其鲁棒性针对BILN具有理论保证。最后,在合成和真实世界数据集上的实证评估显示了我们的算法在BILN学习中的有效性。

关键词

引用

@article{arxiv.1709.03768,
  title  = {Learning with Bounded Instance- and Label-dependent Label Noise},
  author = {Jiacheng Cheng and Tongliang Liu and Kotagiri Ramamohanarao and Dacheng Tao},
  journal= {arXiv preprint arXiv:1709.03768},
  year   = {2020}
}

备注

Published in the International Conference on Machine Learning (ICML), 2020