中文

核插值泛化性能差

机器学习 2023-08-09 v2 统计理论 统计理论

摘要

在核回归研究近期复兴中最有趣的问题之一,可能是核插值能否良好泛化,因为这有助于我们理解文献中报道的深度网络的“良性过拟合现象”。在本文中,在温和条件下,我们证明对于任意 ε>0\varepsilon>0,核插值的泛化误差下界为 Ω(nε)\Omega(n^{-\varepsilon})。换言之,对于一大类核,核插值泛化性能差。作为一个直接推论,我们可以证明定义在球面上的过拟合宽神经网络泛化性能差。

关键词

引用

@article{arxiv.2303.15809,
  title  = {Kernel interpolation generalizes poorly},
  author = {Yicheng Li and Haobo Zhang and Qian Lin},
  journal= {arXiv preprint arXiv:2303.15809},
  year   = {2023}
}