用于带错误与弃权学习的扩展 Littlestone 维度
机器学习
2016-09-29 v3
摘要
本文研究了在线设置下带弃权选项的分类问题。在该设置中,样本依次到达,学习者被给定一个假设类 ,学习者的目标是为每个样本预测标签或弃权,同时确保在进行预测时犯的错误不超过预先指定的数量。此前关于该问题的研究留下了两个主要挑战。首先,关于算法的最优性知之甚少,特别是关于针对任意单个假设类的最优算法策略。其次,虽然可实现情形已被研究,但更现实的非可实现情形尚不被充分理解。本文中,我们应对这两个挑战。首先,我们提出了一种称为扩展 Littlestone 维度(Extended Littlestone's Dimension)的新度量,它刻画了为保证特定错误数量所需的弃权次数。其次,我们探索了非可实现情形,并给出了算法为保证指定错误数量所需弃权次数的上界与下界。
引用
@article{arxiv.1604.06162,
title = {The Extended Littlestone's Dimension for Learning with Mistakes and Abstentions},
author = {Chicheng Zhang and Kamalika Chaudhuri},
journal= {arXiv preprint arXiv:1604.06162},
year = {2016}
}
备注
29 pages, 7 figures; COLT 2016