超稀疏条件下Lasso的平均案例分析

我们分析了线性回归模型中最小绝对收缩与选择算子（Lasso）的性能，其中回归变量数$N$增大而真实支撑大小$d$保持有限，即超稀疏情形。结果基于统计物理中复制法的一种新颖处理，该方法此前仅应用于$N$、$d$与观测数$M$以相同速率趋于无穷的问题设定。我们的分析使得评估具有高斯感知矩阵的Lasso平均性能成为可能，且无需对$N$和$M$的缩放、噪声分布及真实信号轮廓作假设。在噪声分布的温和条件下，当$M$以$M = O(\log N)$发散时，该分析还为部分与完全支撑恢复所需的样本复杂度提供了下界。所得完全支撑恢复界是先前文献所给界的推广，先前仅考虑高斯噪声与发散$d$的情形。大量数值实验有力支持我们的分析。