通过留一交叉验证检测标签噪声
机器学习
2021-03-30 v2 最优化与控制
机器学习
摘要
我们提出了一种简单算法，利用高斯过程回归从干净与 corrupted 样本点混合中识别并修正实值噪声标签。我们采用异方差噪声模型，其中与每个及所有观测标签相关联的是具有独立方差的加性高斯噪声项。利用最大似然估计优化噪声模型，使得 GPR 模型的预测误差在留一交叉验证中被后验标准差所包容。我们提出了一种乘法更新方案，用于在非负约束下求解最大似然估计问题。尽管我们对某些特殊情况给出了收敛性证明，该乘法方案在几乎所有数值实验中均经验性地展现出单调收敛行为。我们表明，所提方法能够精确定位 corrupted 样本点，并在合成与真实世界科学数据集上训练时带来更好的回归模型。
引用
@article{arxiv.2103.11352,
title = {Detecting Label Noise via Leave-One-Out Cross-Validation},
author = {Yu-Hang Tang and Yuanran Zhu and Wibe A. de Jong},
journal= {arXiv preprint arXiv:2103.11352},
year = {2021}
}