具有幂律先验与目标的高斯过程回归的学习曲线
机器学习
2021-11-30 v2
摘要
我们在先验本征谱与目标函数特征展开系数均服从幂律的假设下，刻画了高斯过程回归（GPR）学习曲线的幂律渐近性。在类似假设下，我们利用 GPR 与核岭回归（KRR）的等价性给出了 KRR 的泛化误差。无限宽神经网络可相对于神经网络 GP 核与神经正切核关联到 GPR，而该核在若干情形下已知具有幂律谱。因此我们的方法可用于研究无限宽神经网络的泛化误差。我们给出了验证该理论的玩具实验。
引用
@article{arxiv.2110.12231,
title = {Learning curves for Gaussian process regression with power-law priors and targets},
author = {Hui Jin and Pradeep Kr. Banerjee and Guido Montúfar},
journal= {arXiv preprint arXiv:2110.12231},
year = {2021}
}
备注
76 pages, 7 table, 6 figure