哪种 bridge 估计器在变量选择中最优？

我们在高维渐近设定下研究线性模型的变量选择问题，其中观测数 $n$ 与预测变量数 $p$ 以相同速率增长。我们考虑两阶段变量选择技术（TVS），其中第一阶段使用 bridge 估计器获得回归系数的估计，第二阶段简单地对这一估计进行阈值处理以选择“重要”预测变量。我们评估了这些 TVS 的渐近假发现比例（AFDP）和真阳性比例（ATPP）。我们证明，对于固定的 ATPP，为了获得更小的 AFDP，应在 TVS 的第一阶段选择具有更小渐近均方误差的 bridge 估计器。基于这一原则性发现，我们通过对 bridge 估计器估计性质的深入调查，对不同 TVS 进行了精确比较。我们的分析侧重于精确的误差刻画，而非带有宽松常数的“阶数级”误差界限。研究了各种有趣的信噪比和稀疏性设定。我们的结果为高维变量选择提供了新的、透彻的见解。例如，我们证明了在噪声较大的设定下，第一阶段使用 Ridge 的 TVS 优于使用其他 bridge 估计器的 TVS；当信号稀疏且微弱时，两阶段 LASSO 变得劣于其他方法。作为副产品，我们表明在特定条件下两阶段方法优于一些标准的变量选择技术，如 LASSO 和 Sure Independence Screening。