锚点真的是标签噪声学习中所不可或缺的吗?
机器学习
2019-12-18 v2 机器学习
摘要
在标签噪声学习中,表示干净标签翻转为噪声标签概率的噪声转移矩阵,在构建统计一致分类器中起核心作用。现有理论表明,可通过利用锚点(即几乎确定属于某一特定类的数据点)来学习该转移矩阵。然而,当不存在锚点时,转移矩阵将学得很差,且那些当前的一致分类器会显著退化。本文在不使用锚点的情况下,提出一种转移修正(-Revision)方法来有效学习转移矩阵,从而得到更好的分类器。具体而言,为学习转移矩阵,我们首先利用与锚点相似、具有较高噪声类后验概率的数据点对其进行初始化。然后,我们通过添加一个松弛变量来修正初始化矩阵,该变量可与分类器一同使用噪声数据进行学习和验证。在基准模拟与真实世界标签噪声数据集上的实证结果表明,在不使用精确锚点的情况下,所提方法优于最先进的标签噪声学习方法。
引用
@article{arxiv.1906.00189,
title = {Are Anchor Points Really Indispensable in Label-Noise Learning?},
author = {Xiaobo Xia and Tongliang Liu and Nannan Wang and Bo Han and Chen Gong and Gang Niu and Masashi Sugiyama},
journal= {arXiv preprint arXiv:1906.00189},
year = {2019}
}
备注
Accepted by NeurIPS 2019