通过聚合改进的交叉验证:Agghoo
统计理论
2017-09-13 v1 统计理论
摘要
交叉验证被广泛用于在一族学习规则中进行选择。本文研究一种相关方法,称为聚合保留法(Agghoo),它将交叉验证与聚合相结合;Agghoo 也可与 bagging 相关联。根据数值实验,Agghoo 能在相同的计算代价下显著改善交叉验证的预测误差;这使其作为一种通用预测工具极具前景。我们提供了 Agghoo 的首个理论保证,在监督分类设定下,确保可安全使用:最坏情况下,Agghoo 的性能与保留法相当,至多相差一个常数因子。我们还证明了在间隔条件下的二分类非渐近预言不等式,其锐度足以获得(快速)极小极大速率。
引用
@article{arxiv.1709.03702,
title = {Cross-validation improved by aggregation: Agghoo},
author = {Guillaume Maillard and Sylvain Arlot and Matthieu Lerasle},
journal= {arXiv preprint arXiv:1709.03702},
year = {2017}
}