竞争的代价：高维中效应量异质性至关重要

在高维稀疏回归中，在固定稀疏水平的同时增大信噪比是否总会导致更好的模型选择？对于高维稀疏回归问题，令人惊讶地，本文在线性稀疏机制下对Lasso方法给出否定回答，这依赖于我们称为效应量异质性的新概念。粗略地说，若回归系数向量的非零项量级显著不同，则其具有高效应量异质性。从这一新度量的视角，我们证明当该度量在某种意义下最大时，假阳性率与真阳性率沿Lasso路径一致地达到最优权衡；而当其在所有非零效应量大致相等意义下最小时，达到最差权衡。此外，我们证明当效应量异质性最小时，首次假选择远早于其最大时发生。这两个现象的根本原因，比喻地说，是量级相同的效应量变量在进入模型时的“竞争”。综上，我们的发现表明效应量异质性应作为回归系数稀疏性之外的重要补充度量，用于高维回归问题分析。我们的证明使用了近似消息传递理论的技术以及一种估计首个假变量秩的新技术。