基于拉普拉斯核的插值一致性是一种高维现象
机器学习
2018-12-31 v1 机器学习
统计理论
统计理论
摘要
我们证明了,若输入维度为常数,则在对应于拉普拉斯核的再生核希尔伯特空间中的最小范数插值是不一致的。该下界对任意核带宽的选择均成立,即便带宽是基于数据选定的也是如此。该结果支持了如下经验观察:在 RKHS 中的最小范数插值(即对训练数据的精确拟合)在某些高维数据集上泛化良好,但在低维数据集上则不然。
引用
@article{arxiv.1812.11167,
title = {Consistency of Interpolation with Laplace Kernels is a High-Dimensional Phenomenon},
author = {Alexander Rakhlin and Xiyu Zhai},
journal= {arXiv preprint arXiv:1812.11167},
year = {2018}
}