准确率指标的鲁棒性及其在噪声标签学习中的启示
机器学习
2020-12-09 v1
摘要
针对类别条件标签噪声下的多类分类问题，我们证明了准确率指标本身可以是鲁棒的。我们将这一发现的启示具体化为训练和验证两个基本方面，以此解决噪声标签学习中的关键问题。在训练方面，我们证明了在足够多的噪声样本上最大化训练准确率可以得到近似最优的分类器。在验证方面，我们证明了噪声验证集是可靠的，满足了超参数调优和早停等场景中模型选择的关键需求。此前，使用噪声验证样本进行模型选择尚未得到理论上的证明。我们通过大量实验验证了我们的理论结果和附加声明。基于我们的理论结果，我们展示了使用噪声标签训练的模型的特性，并通过展示名为噪声最佳教师与学生（NTS）框架的优异性能，验证了噪声验证集的实用性。我们的代码已开源。
引用
@article{arxiv.2012.04193,
title = {Robustness of Accuracy Metric and its Inspirations in Learning with Noisy Labels},
author = {Pengfei Chen and Junjie Ye and Guangyong Chen and Jingwei Zhao and Pheng-Ann Heng},
journal= {arXiv preprint arXiv:2012.04193},
year = {2020}
}
备注
Accepted by AAAI 2021