基于第二代 P 值的变量选择
统计方法学
2021-06-16 v2
摘要
过去一个世纪中已提出许多统计方法进行变量选择，但很少能很好地平衡推断与预测任务。本文报告一种称为带第二代 P 值的惩罚回归（ProSGPV）的新型变量选择方法。它以当前标准所达到的最佳速率捕获真实模型，易于实际实现，且常产生最小的参数估计误差。其思想是使用 l0 惩罚方案与第二代 p 值（SGPV），而非传统 p 值，来决定哪些变量保留在模型中。该方法在平衡支持恢复、参数估计和预测任务方面具有切实优势。即使特征间存在强共线性，或考虑 p > n 的高维特征空间时，ProSGPV 算法仍能保持良好性能。我们给出了大量模拟和一个真实应用，将 ProSGPV 方法与平滑截断绝对偏差（SCAD）、自适应 lasso（AL）以及带惩罚线性无偏选择的最小最大凹惩罚（MC+）进行比较。尽管后三种算法是当前变量选择的标准方法，ProSGPV 在某些场景下具有更优的推断性能和可比较的预测性能。补充材料可在线获取。
引用
@article{arxiv.2012.07941,
title = {Variable Selection with Second-Generation P-Values},
author = {Yi Zuo and Thomas G. Stewart and Jeffrey D. Blume},
journal= {arXiv preprint arXiv:2012.07941},
year = {2021}
}