面向大维回归中可扩展变量选择问题的 KOO 方法
统计理论
2023-04-26 v2 统计方法学
统计理论
摘要
在许多多元回归问题中，一个重要的议题是剔除预测向量为零的候选预测变量。在响应变量与预测变量数目均很大的大维（LD）情形下，模型选择面临可扩展性挑战。留一剔除（KOO）统计量有望应对这一挑战。本文在大维设定下以及误差项满足温和分布假设（四阶矩有限）时，推导了 KOO 统计量的几乎必然极限与中心极限定理。这些理论结果保证了基于 KOO 统计量与一般阈值的子集选择规则的强相合性。为增强该选择规则的稳健性，我们还提出了一种用于 KOO 方法的自助法阈值。模拟结果支持了我们的结论，并表明采用自助法阈值的 KOO 方法在选择概率上优于使用赤池信息阈值、贝叶斯信息阈值和 Mallow's C 阈值的方法。我们将所提出的 KOO 方法与基于信息阈值的方法在化学计量学数据集和酵母细胞周期数据集上进行比较，结果表明我们提出的方法能识别出有用的模型。
引用
@article{arxiv.2303.17230,
title = {KOO approach for scalable variable selection problem in large-dimensional regression},
author = {Zhidong Bai and Kwok Pui Choi and Yasunori Fujikoshi and Jiang Hu},
journal= {arXiv preprint arXiv:2303.17230},
year = {2023}
}