协变量辅助筛选与估计

考虑线性模型 $Y=X\beta+z$，其中 $X=X_{n,p}$ 且 $z\sim N(0,I_n)$。向量 $\beta$ 未知，但具有稀疏性，即其大多数坐标为零。主要兴趣在于将其非零坐标与零坐标分开（即变量选择）。受长记忆时间序列（Fan and Yao [Nonlinear Time Series: Nonparametric and Parametric Methods (2003) Springer]）和变点问题（Bhattacharya [In Change-Point Problems (South Hadley, MA, 1992) (1994) 28-56 IMS]）中的例子启发，我们主要关注 Gram 矩阵 $G=X'X$ 非稀疏但可通过有限阶线性滤波器稀疏化的情况。我们聚焦于信号既稀少又微弱的场景，因此成功的变量选择极具挑战性但仍有可能。我们通过一种称为协变量辅助筛选与估计（CASE）的新程序来处理该问题。CASE 首先使用线性滤波将原始设定简化为一个新的回归模型，其中对应的 Gram（协方差）矩阵是稀疏的。新的协方差矩阵诱导出一个稀疏图，该图指导我们进行多变量筛选，而无需遍历所有子模型。通过与信号稀疏性的相互作用，该图使我们能够将原始问题分解为许多分离的小规模子问题（只要我们知晓它们的位置！）。线性滤波还会引起所谓的信息泄漏问题，这可以通过新引入的修补技术来克服。这些共同构成了 CASE，这是一个两阶段的筛选-清理 [Fan and Song Ann. Statist. 38 (2010) 3567-3604; Wasserman and Roeder Ann. Statist. 37 (2009) 2178-2201] 过程：我们首先通过修补和筛选识别这些子模型的候选，然后重新检查每个候选以去除误报。