一种具有理论依据的在线提升算法
机器学习
2012-07-03 v1 机器学习
摘要
我们研究了在线提升任务——将在线弱学习器组合成在线强学习器。尽管批量提升具有坚实的理论基础,但从理论角度对在线提升的研究仍需加强。本文仔细比较了在线提升与批量提升的差异,并为在线弱学习器提出了一种新颖且合理的假设。基于该假设,我们通过适配与假设紧密匹配的离线SmoothBoost算法,设计了一种具有强理论保证的在线提升算法。我们进一步利用在线凸规划和专家建议预测的已有理论结果,解决了确定弱学习器数量的问题。在真实数据集上的实验表明,所提算法与现有在线提升算法相比具有优势。
引用
@article{arxiv.1206.6422,
title = {An Online Boosting Algorithm with Theoretical Justifications},
author = {Shang-Tse Chen and Hsuan-Tien Lin and Chi-Jen Lu},
journal= {arXiv preprint arXiv:1206.6422},
year = {2012}
}
备注
Appears in Proceedings of the 29th International Conference on Machine Learning (ICML 2012)