计算自适应模型选择的Oracle不等式
机器学习
2012-08-02 v1 机器学习
摘要
我们分析了在计算约束下使用惩罚经验损失最小化的一般模型选择过程。虽然经典的模型选择方法不考虑执行模型选择时的计算方面，但我们认为任何实际的模型选择过程不仅必须在估计误差和逼近误差之间权衡，还必须权衡计算不同函数类的经验极小化器所需的计算工作量。我们提供了一个分析此类问题的框架，并给出了在计算预算下进行模型选择的算法。这些算法满足Oracle不等式，表明所选模型的风险并不比我们将所有计算预算都用于最优函数类时差太多。
引用
@article{arxiv.1208.0129,
title = {Oracle inequalities for computationally adaptive model selection},
author = {Alekh Agarwal and Peter L. Bartlett and John C. Duchi},
journal= {arXiv preprint arXiv:1208.0129},
year = {2012}
}