关于设计矩阵不相干时LASSO的预测
统计理论
2014-06-24 v3 统计理论
摘要
LASSO估计量是一种 范数惩罚最小二乘估计量，最初是为线性模型中的变量选择而引入的。当设计矩阵满足例如约束等距性（Restricted Isometry Property），或具有较小的相干性指标时，已证明LASSO估计量能以高概率恢复足够稀疏的回归向量的支撑集与符号模式。在类似假设下，LASSO在各种范数下满足自适应预测界。本文基于一个新指标提供了预测界，该指标用于衡量设计矩阵对LASSO估计量的有利程度。我们研究了该新指标在列向量独立且均匀抽取自单位球面的矩阵下的行为。利用将此类随机矩阵（具有适当列数）附加到给定设计矩阵的简单技巧，我们证明了在除受限非奇异性外对设计矩阵无任何约束的情况下，类似于 \cite[Theorem 2.1]{CandesPlan:AnnStat09} 的预测界依然成立。
引用
@article{arxiv.1203.5223,
title = {On prediction with the LASSO when the design is not incoherent},
author = {Stephane Chretien},
journal= {arXiv preprint arXiv:1203.5223},
year = {2014}
}
备注
typos corrected and some bounds improved. Still badly written, but in progress