预算在线多核学习
机器学习
2015-11-19 v2
摘要
近年来，多核在线学习受到越来越多的关注并找到了诸多应用。对于分类任务，在线多核分类（OMKC）通过在线方式寻求一组单核分类器的最优线性组合来学习基于核的分类器，相比传统单核分类器取得了更优精度并具备更大灵活性。尽管已被广泛研究，现有OMKC算法因其无界数量的支撑向量而计算代价高昂。为克服该缺陷，我们提出一种新颖的预算在线多核学习（BOMKL）框架，并给出一种新的稀疏被动攻击学习以执行有效的预算在线学习。具体而言，我们采用简单而有效的伯努利采样来决定是否将新到达样本加入当前支撑向量集。通过限制支撑向量数量，我们的方法能显著加速OMKC，同时保持与现有OMKC算法相当的满意精度。我们从理论上证明了新方法在期望意义下达到最优悔界，并经验性地发现所提算法优于多种OMKC算法，且能轻松扩展至大规模数据集。
引用
@article{arxiv.1511.04813,
title = {Budget Online Multiple Kernel Learning},
author = {Jing Lu and Steven C. H. Hoi and Doyen Sahoo and Peilin Zhao},
journal= {arXiv preprint arXiv:1511.04813},
year = {2015}
}