RandALO：零时延获取超样本风险估计
统计理论
2025-04-28 v2 机器学习
最优化与控制
统计计算
机器学习
统计理论
摘要
为在大规模高维数据集上训练的模型估计超样本风险是机器学习过程中既昂贵又必不可少的环节，能够帮助实践者最佳调参。交叉验证（CV）作为风险估计的事实标准，但在高偏差（K折CV）与计算成本（留一法CV）之间权衡不佳。我们提出了一种随机近似留一法（RandALO）风险估计器，其不仅是高维情况下的一致风险估计器，而且比K折CV更计算经济。我们通过在合成数据和真实数据上的大量仿真实验支持了上述论点，并提供了一个用户友好的Python软件包，实现RandALO，已发布在PyPI上，包名为randalo，地址为https://github.com/cvxgrp/randalo。
引用
@article{arxiv.2409.09781,
title = {RandALO: Out-of-sample risk estimation in no time flat},
author = {Parth Nobel and Daniel LeJeune and Emmanuel J. Candès},
journal= {arXiv preprint arXiv:2409.09781},
year = {2025}
}
备注
26 pages, 10 figures