集成核方法、隐式正则化与行列式点过程
机器学习
2021-07-22 v3 机器学习
摘要
通过使用行列式点过程（DPPs）框架，可获得关于多样性与正则化之间相互作用的一些理论结果。本文中我们表明，在岭回归核回归（ridgeless Kernel Regression）背景下，以 kDPPs 采样子集会导致隐式正则化。此外，我们利用最先进 DPP 算法的通用设置来采样多个小子集，并将其用于岭回归（ridgeless）的集成中。我们的初步实证结果表明，对于包含冗余信息的数据集，使用岭回归（ridgeless）集成器可能是有意义的。
引用
@article{arxiv.2006.13701,
title = {Ensemble Kernel Methods, Implicit Regularization and Determinantal Point Processes},
author = {Joachim Schreurs and Michaël Fanuel and Johan A. K. Suykens},
journal= {arXiv preprint arXiv:2006.13701},
year = {2021}
}