一般回归误差假设下无岭最小二乘估计量的预测风险与估计风险
统计理论
2024-06-14 v3 机器学习
计量经济学
机器学习
统计理论
摘要
近年来,聚焦于最小 范数(无岭)插值最小二乘估计量的研究显著增长。然而,这些分析大多局限于不现实的回归误差结构,假设独立同分布、零均值、同方差的误差。本文在更一般的回归误差假设下探讨预测风险与估计风险,在允许聚类或序列相关的更真实设定中凸显过参数化的益处。值得注意的是,我们确立与两种风险的方差分量相关的估计困难可通过回归误差的方差-协方差矩阵的迹来概括。我们的发现表明,过参数化的益处可延伸至时间序列、面板与分组数据。
引用
@article{arxiv.2305.12883,
title = {Prediction Risk and Estimation Risk of the Ridgeless Least Squares Estimator under General Assumptions on Regression Errors},
author = {Sungyoon Lee and Sokbae Lee},
journal= {arXiv preprint arXiv:2305.12883},
year = {2024}
}
备注
19 pages, 5 figures