关于最优子集的确定性早期选择

早期解路径追踪进入选择过程模型的前几个变量，对科学发现具有深远意义。在实践中，识别所有重要特征而不出现错误发现通常在统计上无望，更不必说检验其显著性的实验开销令人望而生畏。这种现实局限要求模型选择器的早期发现具有统计保证。本文关注最优子集选择（BSS）的早期解路径，其中稀疏性约束被设为低于真实稀疏度。在稀疏高维线性模型下，我们建立了 BSS 实现确定性早期选择（等价地，在其早期路径上零错误发现）的充分且（近似）必要条件。本质上，该条件归结为最小投影信号边际的下界，其刻画了确定性选择模型与含伪发现的模型之间所捕获信号强度的差距。该边际通过投影算子定义，独立于设计的受限特征值，表明 BSS 对共线性的鲁棒性。此外，我们的模型选择保证容忍合理的优化误差，因而适用于近似最优子集。最后，为克服高维下 BSS 的计算障碍，我们提出“先筛选后选择”（STS）策略以降低 BSS 的维度。数值实验表明，所得早期路径的假发现率（FDR）远低于 LASSO、MCP 和 SCAD，尤其在高度相关设计下。我们还研究了迭代硬阈值算法的早期路径，其为 BSS 的贪心计算替代，并产生与我们的 STS 过程相当的 FDR。