基于多核的主动学习
机器学习
2020-05-08 v1 信息论
math.IT
机器学习
摘要
在线多核学习(OMKL)在非线性函数学习任务中表现出引人注目的性能。借助随机特征近似,OMKL 的主要缺陷——即维数灾难——近来已得到缓解。在本文中,我们引入一个新的研究问题,称为(基于流的)主动多核学习(AMKL),其中学习者可根据某种选择准则从神谕(oracle)处标注所选数据。这在许多现实应用中是必要的,因为获取真实标签成本高昂或耗时。我们证明 AMKL 达到了最优的次线性遗憾(regret),意味着所提出的选择准则确实避免了无用的标签请求。此外,我们提出带有自适应核选择的 AMKL(AMKL-AKS),其中无关核可在'在线'过程中从核字典中排除。该方法可提升主动学习的效率以及函数近似的精度。通过对多个真实数据集的数值测试,表明 AMKL-AKS 以更少的标注数据量取得了与已知最优 OMKL 相似或更好的性能。
引用
@article{arxiv.2005.03188,
title = {Active Learning with Multiple Kernels},
author = {Songnam Hong and Jeongmin Chae},
journal= {arXiv preprint arXiv:2005.03188},
year = {2020}
}