中文

使用确定性特征的无技巧(真)核自适应滤波

机器学习 2019-12-11 v1 数值分析 数值分析 机器学习

摘要

核方法构成了一个强大、通用且理论扎实的统一框架,用于解决信号处理与机器学习中的非线性问题。标准方法依赖核技巧对核函数进行成对求值,因其相对于训练数据呈线性或超线性增长,导致在大型数据集上出现可扩展性问题。一种应对该问题的流行方法称为随机傅里叶特征(RFFs),它从分布中采样以获得更高有限维特征空间的数据无关基,其点积近似核函数。近期研究表明,确定性而非随机的构造通过使用高斯求积在频域近似核,优于 RFFs。在本文中,我们将这些显式映射的点积不视为近似,而视为诱导出新有限维再生核希尔伯特空间(RKHS)的等价正定核。这为可扩展且鲁棒的无技巧(NT)在线核自适应滤波(KAF)打开了大门。随机特征易于出现较大的性能方差,尤其在较小时维下。此处我们聚焦于基于多项式精确解的确定性特征映射构造,并展示其相对于随机构造的优越性。在不失一般性的前提下,我们将该方法应用于经典自适应滤波算法,并验证该方法论以表明确定性特征生成更快且优于基于随机傅里叶特征的最先进核方法。

关键词

引用

@article{arxiv.1912.04530,
  title  = {No-Trick (Treat) Kernel Adaptive Filtering using Deterministic Features},
  author = {Kan Li and Jose C. Principe},
  journal= {arXiv preprint arXiv:1912.04530},
  year   = {2019}
}

备注

12 pages, 7 figures