基于非负风险估计器的正未标记学习
机器学习
2017-11-07 v2 机器学习
摘要
仅从正类（P）和未标记（U）数据，可以通过 PU 学习训练二元分类器，其中当前最先进的是无偏 PU 学习。然而，如果其模型非常灵活，训练数据上的经验风险将变为负值，我们将遭受严重的过拟合。在本文中，我们提出一种用于 PU 学习的非负风险估计器：当其被最小化时，它对过拟合更鲁棒，因此我们能够在使用有限 P 数据的情况下采用非常灵活的模型（如深度神经网络）。此外，我们分析了所提风险估计器的偏差、一致性和均方误差缩减，并界定了所得经验风险最小化器的估计误差。实验表明，我们的风险估计器修复了其无偏对应方法存在的过拟合问题。
引用
@article{arxiv.1703.00593,
title = {Positive-Unlabeled Learning with Non-Negative Risk Estimator},
author = {Ryuichi Kiryo and Gang Niu and Marthinus C. du Plessis and Masashi Sugiyama},
journal= {arXiv preprint arXiv:1703.00593},
year = {2017}
}
备注
NIPS 2017 camera-ready version (this paper was selected for oral presentation)