岭回归与增长维度球面上的渐近极小极大估计
统计理论
2016-01-18 v1 统计理论
摘要
我们研究在增长维度()的球面上估计 维回归参数的渐近极小极大问题。假设数据遵循带有高斯预测变量和误差的线性模型,我们证明岭回归是渐近极小极大的,并推导其在平方误差损失下的渐近风险的新的闭式表达式。岭回归的渐近风险与 Mar\v{c}enko-Pastur 分布的 Stieltjes 变换以及线性模型中预测变量的谱分布密切相关。我们还提出了自适应岭估计量(其适应于球的未知半径),并强调了与等变估计的联系。我们的结果主要与观测数 与预测变量数成比例的渐近设置相关,即 。
引用
@article{arxiv.1601.03900,
title = {Ridge regression and asymptotic minimax estimation over spheres of growing dimension},
author = {Lee H. Dicker},
journal= {arXiv preprint arXiv:1601.03900},
year = {2016}
}
备注
Published at http://dx.doi.org/10.3150/14-BEJ609 in the Bernoulli (http://isi.cbs.nl/bernoulli/) by the International Statistical Institute/Bernoulli Society (http://isi.cbs.nl/BS/bshome.htm)