具有均值与方差离群点检测及 Oracle 性质的双重鲁棒特征选择
统计方法学
2021-06-23 v1
摘要
我们提出一种通用方法，以处理可能破坏高维线性模型特征选择与估计过程性能的数据污染。具体而言，我们考虑均值偏移与方差膨胀离群点共存的情形，它们可分别建模为额外的固定分量与随机分量，并独立评估。我们的方法在执行特征选择的同时，检测并降权方差膨胀离群点，检测并排除均值偏移离群点，并以全权重保留非离群样本。特征选择与均值偏移离群点检测通过一类鲁棒的非凹惩罚方法实现。方差膨胀离群点检测基于受限后验模式的惩罚。所得方法在数据污染存在下满足特征选择的鲁棒 oracle 性质——允许特征数量随样本量呈指数增长——并以渐近概率 1 检测出每类的真实离群情况。这在高崩溃点与效率之间提供了最优权衡。我们还给出了计算高效的启发式过程。我们通过广泛的模拟研究和真实应用说明了我们所提方法的有限样本表现。
引用
@article{arxiv.2106.11941,
title = {Doubly Robust Feature Selection with Mean and Variance Outlier Detection and Oracle Properties},
author = {Luca Insolia and Francesca Chiaromonte and Runze Li and Marco Riani},
journal= {arXiv preprint arXiv:2106.11941},
year = {2021}
}
备注
35 pages, 9 figures (including supplementary material)