中文

基于随机特征的随机 Vovk-Azoury-Warmuth 算法用于在线多核学习

种群与进化 2025-03-27 v1

摘要

我们引入一种新的多核学习算法 VAW2^2,用于在再现核希尔伯特空间(RKHS)中的在线最小二乘回归。VAW2^2 利用基于随机傅里叶特征的函数逼近和 Vovk-Azoury-Warmuth(VAW)方法在两个层次结构中进行操作:VAW 用于从为每个核生成的随机特征中构建专家策略,然后再次用于组合其预测。在期望值方面进行理论分析,得出 T1/2lnTT^{1/2}\ln T 的后悔界,当随机特征的数量按 T1/2T^{1/2} 比例扩展时。在一些基准数据集上的经验结果表明,VAW2^2 在预测性能上优于现有的在线多核学习算法:Raker 和 OMKL-GF,以及其他在第二层使用专家预测的凸组合方法。

关键词

引用

@article{arxiv.2503.20086,
  title  = {The importance of exploration: Modelling site-constant foraging},
  author = {Sarah A. MacQueen and Clara F. Hardy and W. John Braun and Rebecca C. Tyson},
  journal= {arXiv preprint arXiv:2503.20086},
  year   = {2025}
}