对未知非对称标签噪声鲁棒的 kNN 分类器的快速收敛速率
机器学习
2019-06-12 v1 机器学习
摘要
我们考虑在存在类别依赖的非对称标签噪声且噪声概率未知的情况下的分类问题。在此设定下,可识别性条件是已知的,但已有结果表明,要获得有限样本速率需要额外的假设,且迄今仅得到了参数速率。假设这些可识别性条件,连同回归函数的测度平滑性条件和 Tsybakov 间隔条件,我们证明 Gao 等人的鲁棒 kNN 分类器即使在用含有未知非对称标签噪声的数据训练时,也能达到无噪声设定下的极小极大最优速率,仅相差一个对数因子。因此,我们的结果为这一经验上成功的算法提供了坚实的理论支撑。相比之下,标准 kNN 在非对称标签噪声设定下甚至不是相合的。我们分析中的一个关键思想是一种基于 kNN 的简单方法,用于估计函数的最大值,该方法所需的假设远少于现有的众数估计器,并且可能对噪声比例估计和随机优化问题具有独立的研究价值。
引用
@article{arxiv.1906.04542,
title = {Fast Rates for a kNN Classifier Robust to Unknown Asymmetric Label Noise},
author = {Henry W. J. Reeve and Ata Kaban},
journal= {arXiv preprint arXiv:1906.04542},
year = {2019}
}
备注
ICML 2019