有限秩核岭回归测试误差的理论分析
机器学习
2023-10-04 v2 机器学习
摘要
现有通用核回归器的统计学习保证在用于有限秩核时往往给出宽松的界。然而，有限秩核自然出现在若干机器学习问题中，例如在迁移学习中微调预训练深度神经网络的最后一层以适配新任务时。我们通过推导任意有限秩核岭回归（KRR）的 KRR 测试误差的尖锐非渐近上界与下界，弥补了这一缺口。我们的界比先前导出的有限秩 KRR 界更紧，且与同类结果不同，它们对任意正则化参数均成立。
引用
@article{arxiv.2310.00987,
title = {A Theoretical Analysis of the Test Error of Finite-Rank Kernel Ridge Regression},
author = {Tin Sum Cheng and Aurelien Lucchi and Ivan Dokmanić and Anastasis Kratsios and David Belius},
journal= {arXiv preprint arXiv:2310.00987},
year = {2023}
}