Massart噪声下的提升算法
机器学习
2021-06-16 v1 机器学习
摘要
我们研究在带有Massart噪声的（分布无关）PAC模型中提升弱学习器精度的问题。在Massart噪声模型中，每个样本的标签以独立概率被误分类，其中。Massart模型介于随机分类噪声模型与不可知模型之间。我们的主要正向结果是首个在Massart噪声存在下计算高效的提升算法，其误分类误差可任意接近。在我们工作之前，该设定下已知无非平凡提升器。此外，我们表明在标准密码学假设下，该误差上界对多项式时间黑盒提升器而言是最优可能的。我们的上界与下界刻画了分布无关PAC模型中Massart噪声下提升的复杂度。作为正向结果的一个简单应用，我们给出了首个针对高维矩形并集的高效Massart学习器。
引用
@article{arxiv.2106.07779,
title = {Boosting in the Presence of Massart Noise},
author = {Ilias Diakonikolas and Russell Impagliazzo and Daniel Kane and Rex Lei and Jessica Sorrell and Christos Tzamos},
journal= {arXiv preprint arXiv:2106.07779},
year = {2021}
}