自适应 $\tau$-Lasso：稳健性与 oracle 性质

本文针对响应变量与协变量均受严重污染的髙维数据集，引入稳健 $\tau$-回归估计量的一种新的正则化版本。所得估计量称为自适应 $\tau$-Lasso，对离群值和高杠杆点具有稳健性。它还结合了自适应 $\ell_1$-范数惩罚项，从而能够选择相关变量并减小与较大真实回归系数相关的偏差。更具体地，该自适应 $\ell_1$-范数惩罚项对每个回归系数赋予一个权重。对于固定的预测变量个数 $p$，我们证明自适应 $\tau$-Lasso 具有 oracle 性质，确保变量选择一致性与渐近正态性。渐近正态性仅适用于对应于真实支撑的回归向量分量，且假定已知真实回归向量支撑。我们通过建立有限样本崩溃点与影响函数来刻画其稳健性。我们进行了大量模拟，观察到 $\tau$-Lasso 类估计量在受污染与未受污染数据情形下均表现出稳健性与可靠性能。我们也通过模拟验证了关于稳健性性质的理论发现。面对离群值和高杠杆点时，自适应 $\tau$-Lasso 与 $\tau$-Lasso 估计量取得最佳性能或与竞争正则化估计量的最佳性能相当，且在本文考虑的所有场景中预测与变量选择精度几乎无损失或损失极小。因此，自适应 $\tau$-Lasso 与 $\tau$-Lasso 估计量为各类稀疏线性回归问题提供了有吸引力的工具，尤其适用于高维设定以及数据受离群值和高杠杆点污染的情形。