关于 Bochner 和 Polya 对正定核的刻画及相应的随机特征映射
机器学习
2016-10-28 v1 机器学习
摘要
正定核函数是核方法和高斯过程的基本要素。此类函数的一个著名构造来自 Bochner 的刻画,它将正定函数与概率分布联系起来。另一种构造是 Polya 准则,它刻画了这些函数的一个子集,但似乎受到的关注较少。在本文中,我们研究了后一种刻画,并推导出了许多此前鲜为人知的新核。在大规模核机器的背景下,Rahimi 和 Recht (2007) 提出了一种随机特征映射(随机傅里叶),通过在 Bochner 刻画中的概率分布进行独立采样来近似核函数。作者还提出了另一种特征映射(随机分箱),虽然未明确说明,但其源自 Polya 刻画。我们表明,在相同数量的随机样本下,随机分箱映射产生的欧几里得内积比随机傅里叶映射更接近核函数。通过在再生核希尔伯特空间中的回归和分类任务,经验证了随机分箱映射的优越性。
引用
@article{arxiv.1610.08861,
title = {On Bochner's and Polya's Characterizations of Positive-Definite Kernels and the Respective Random Feature Maps},
author = {Jie Chen and Dehua Cheng and Yan Liu},
journal= {arXiv preprint arXiv:1610.08861},
year = {2016}
}