高效的 KLMS 与 KRLS 算法:基于随机傅里叶特征的视角
机器学习
2016-06-14 v1 机器学习
摘要
我们提出了一个用于 RKHS(再生核希尔伯特空间)中非线性建模的在线最小二乘算法的新框架。我们没有将数据隐式映射到 RKHS(如核技巧),而是利用核傅里叶变换的随机特征将数据映射到有限维欧几里得空间。其优势在于,映射后数据的内积可以近似核函数。由此产生的“线性”算法不需要任何形式的稀疏化,因为与所有现有算法不同,解的规模保持固定,且不随迭代步数增加。因此,与先前推导的变体相比,所得算法在计算上效率显著更高,同时以相似的速度收敛并达到相似的误差下限。
引用
@article{arxiv.1606.03685,
title = {Efficient KLMS and KRLS Algorithms: A Random Fourier Feature Perspective},
author = {Pantelis Bouboulis and Spyridon Pougkakiotis and Sergios Theodoridis},
journal= {arXiv preprint arXiv:1606.03685},
year = {2016}
}
备注
presented in the 2016 IEEE Workshop on Statistical Signal Processing (SSP 16)