Adaptive Lasso 中的扰动 Bootstrap

Adaptive Lasso(Alasso) 由 Zou [\textit{J. Amer. Statist. Assoc. \textbf{101} (2006) 1418-1429}] 作为 Lasso 的改进而提出，旨在实现线性回归模型中变量的同时选择与参数估计。Zou (2006) 确立了在某些固定维数设定下，Alasso 估计量具有变量选择一致性，并且在对应于非零回归系数的指标上渐近正态。在一篇有影响力的论文中，Minnier、Tian 和 Cai [\textit{J. Amer. Statist. Assoc. \textbf{106} (2011) 1371-1382}] 提出了一种扰动 bootstrap 方法，并在固定维数设定下确立了其对 Alasso 估计量的分布一致性。然而在本文中，我们表明这种（朴素）扰动 bootstrap 在逼近 Alasso 估计量的分布时无法达到二阶正确性。我们对扰动 bootstrap 目标函数提出了一种修改，并表明即使当模型的维数被允许随样本量增长至无穷大时，我们修改后的扰动 bootstrap Alasso 估计量的适当 studentized 版本也能达到二阶正确性。因此，基于修改后的扰动 bootstrap 的推断将比基于 oracle 正态近似的推断更准确。我们给出了模拟研究，展示了我们修改后的扰动 bootstrap 方法良好的有限样本性质，并在一个真实数据集上说明了我们的方法。