平方根Lasso:通过锥规划实现稀疏信号的无偏恢复
统计方法学
2015-03-17 v5 统计理论
统计理论
摘要
我们提出了一种用于估计高维稀疏线性回归模型的无偏方法,其中回归变量总数 很大,可能远大于 ,但仅有 个回归变量是显著的。该方法是Lasso的一种改进,称为平方根Lasso。该方法具有无偏性,既不依赖于标准差 的先验知识,也无需预先估计 。此外,该方法不依赖于噪声的正态性或次高斯性。它实现了近乎最优的性能,在预测范数下达到收敛速率 ,从而与已知 的Lasso性能相匹配。这些性能结果在温和的矩限制条件下,对高斯误差和非高斯误差均成立。我们将平方根Lasso表述为凸锥规划问题的解,这使得我们可以使用高效的算法方法(如内点法和一阶方法)来实现该估计量。
引用
@article{arxiv.1009.5689,
title = {Square-Root Lasso: Pivotal Recovery of Sparse Signals via Conic Programming},
author = {Alexandre Belloni and Victor Chernozhukov and Lie Wang},
journal= {arXiv preprint arXiv:1009.5689},
year = {2015}
}