尖峰协方差模型下最小范数最小二乘估计量的风险
机器学习
2020-02-19 v2 机器学习
摘要
我们研究了当参数个数 依赖于 且 时,最小范数线性最小二乘估计量的风险。我们通过将自己限制在尖峰协方差矩阵上,假设数据具有潜在的低秩结构,其中固定有限个特征值随 增长且远大于其余特征值,而其余特征值(渐近地)处于同一量级。我们表明,在此设定下,最小范数最小二乘估计量的风险相对于零估计量的风险消失。我们给出了该风险的非渐近与渐近上界,并利用尖峰模型的假设对偏倚进行分析,从而得到比先前工作更紧的界。
引用
@article{arxiv.1912.13421,
title = {Risk of the Least Squares Minimum Norm Estimator under the Spike Covariance Model},
author = {Yasaman Mahdaviyeh and Zacharie Naulet},
journal= {arXiv preprint arXiv:1912.13421},
year = {2020}
}