中文

高维含噪稀疏性恢复的快速阈值

统计理论 2007-07-13 v1 信息论 math.IT 统计理论

摘要

基于被噪声污染的观测一致估计向量 \betastar\mdim\betastar \in \real^\mdim 的稀疏模式的问题出现在多种情境中,包括回归中的子集选择、图模型中的结构估计、稀疏逼近与信号去噪。我们分析 1\ell_1 约束二次规划(QP)(亦称为Lasso)恢复稀疏模式的行为。我们的主要结果是建立问题维数 \mdim\mdim\betastar\betastar 中非零元个数 \spindex\spindex 与可靠恢复所需观测数 \numobs\numobs 之间的精确关系。对满足互不相干条件的一大类高斯系综,我们确立并计算出阈值 \ThreshLow\ThreshLow\ThreshUp\ThreshUp 的显式值,具有如下性质:对任意 ϵ>0\epsilon > 0,若 \numobs>2(\ThreshUp+ϵ)log(\mdim\spindex)+\spindex+1\numobs > 2 (\ThreshUp + \epsilon) \log (\mdim - \spindex) + \spindex + 1,则对大问题Lasso以趋于1的概率成功恢复稀疏模式;而若 \numobs<2(\ThreshLowϵ)log(\mdim\spindex)+\spindex+1\numobs < 2 (\ThreshLow - \epsilon) \log (\mdim - \spindex) + \spindex + 1,则成功恢复的概率趋于零。对均匀高斯系综的特例,我们证明 \ThreshLow=\ThreshUp=1\ThreshLow = \ThreshUp = 1,故阈值是精确的且被准确确定。

关键词

引用

@article{arxiv.math/0605740,
  title  = {Sharp thresholds for high-dimensional and noisy recovery of sparsity},
  author = {Martin J. Wainwright},
  journal= {arXiv preprint arXiv:math/0605740},
  year   = {2007}
}

备注

Appeared as Technical Report 708, Department of Statistics, UC Berkeley