交叉验证误差下界的正则化路径
机器学习
2015-06-23 v2
摘要
在许多机器学习任务中，仔细调整正则化参数是必不可少的，因为它对泛化性能有显著影响。然而，当前正则化参数调优的实践更多是一门艺术而非科学，例如，很难说明在交叉验证（CV）中需要多少个网格点才能获得具有足够小CV误差的解。在本文中，我们提出了一种新颖的框架，用于计算CV误差关于正则化参数的下界，我们称之为CV误差下界的正则化路径。所提出的框架可用于对一组解提供理论近似保证，即当前最佳解的CV误差与整个正则化参数范围内可能的最佳CV误差之间可能相差多远。我们通过数值实验证明，在上述意义下，以合理的计算成本实现理论保证的正则化参数选择是可能的。
引用
@article{arxiv.1502.02344,
title = {Regularization Path of Cross-Validation Error Lower Bounds},
author = {Atsushi Shibagaki and Yoshiki Suzuki and Masayuki Karasuyama and Ichiro Takeuchi},
journal= {arXiv preprint arXiv:1502.02344},
year = {2015}
}