中文

尖峰协方差模型下最小范数最小二乘估计量的风险

机器学习 2020-02-19 v2 机器学习

摘要

我们研究了当参数个数 dd 依赖于 nndn\frac{d}{n} \rightarrow \infty 时,最小范数线性最小二乘估计量的风险。我们通过将自己限制在尖峰协方差矩阵上,假设数据具有潜在的低秩结构,其中固定有限个特征值随 nn 增长且远大于其余特征值,而其余特征值(渐近地)处于同一量级。我们表明,在此设定下,最小范数最小二乘估计量的风险相对于零估计量的风险消失。我们给出了该风险的非渐近与渐近上界,并利用尖峰模型的假设对偏倚进行分析,从而得到比先前工作更紧的界。

关键词

引用

@article{arxiv.1912.13421,
  title  = {Risk of the Least Squares Minimum Norm Estimator under the Spike Covariance Model},
  author = {Yasaman Mahdaviyeh and Zacharie Naulet},
  journal= {arXiv preprint arXiv:1912.13421},
  year   = {2020}
}