基于随机特征的双层Vovk-Azoury-Warmuth算法用于在线多核学习

我们提出了一种新颖的多核学习算法VAW$^2$，用于在再生产核希尔空间(RKHS)中的在线最小二乘回归。VAW$^2$利用基于随机傅里叶特征的函数逼近与Vovk-Azoury-Warmuth(VAW)方法在两层过程中协同工作：VAW用于从为每个核生成的随机特征中构建专家策略，然后再次用于组合它们的预测。在理论分析下，借助当随机特征数量按比例扩大为$T^{1/2}$时，可得出对人工随机性下的经验性警戒界为$O(T^{1/2}\ln T)$。在若干基准数据集上的实验结果表明，VAW$^2$在性能上优于现有的在线多核学习算法：Raker和OMKL-GF，以及其他涉及在第二层对专家预测进行凸组合的理论依据方法。