同伴损失函数：无需知晓噪声率地从噪声标签中学习
机器学习
2020-08-18 v7 机器学习
摘要
从噪声标签中学习是监督学习中的常见挑战。现有方法通常要求实践者指定噪声率，即一组控制问题中标签噪声严重程度的参数，而这些指定要么被假定为已知，要么通过额外步骤估计。在本工作中，我们引入一类新的损失函数，命名为同伴损失函数（peer loss functions），其支持从噪声标签中学习且不需要先验指定噪声率。同伴损失函数在标准经验风险最小化（ERM）框架内工作。我们证明，在温和条件下，在噪声数据集上用同伴损失函数执行 ERM 可得到最优或近最优分类器，如同我们在无法获取的干净训练数据上执行 ERM 一样。我们以大量实验佐证了我们的结果。同伴损失提供了一种在面对潜在噪声训练标签时简化模型开发的途径，并可被推崇为此类情形下的鲁棒候选损失函数。
引用
@article{arxiv.1910.03231,
title = {Peer Loss Functions: Learning from Noisy Labels without Knowing Noise Rates},
author = {Yang Liu and Hongyi Guo},
journal= {arXiv preprint arXiv:1910.03231},
year = {2020}
}
备注
ICML 2020. Corrected typos in the Appendix