高斯线性回归中提前停止的紧致风险界
机器学习
2026-04-29 v2 统计理论
机器学习
统计理论
摘要
我们研究了高斯线性回归中提前停止的镜像下降(ESMD)，适用于任意凸体和设计矩阵，任务是最小化样本内均方误差。我们的主要结果表明，基于局部高斯宽度的最小二乘估计量(LSE)的一些紧致风险界可以推广到ESMD。我们推导了势函数需满足的充分条件，该条件通过Minkowski泛函表达。在这些条件下，我们的结果成立。由此我们得到了ESMD极小极大最优性的通用充分条件，提供了与LSE的系统比较，并在l1约束设置中建立了已知的最紧致风险界。
引用
@article{arxiv.2503.03426,
title = {Sharp Risk Bounds for Early-Stopping in Gaussian Linear Regression},
author = {Tobias Wegel and Gil Kur and Patrick Rebeschini},
journal= {arXiv preprint arXiv:2503.03426},
year = {2026}
}