高维多元线性回归中AIC、BIC、$C_p$与KOO方法的强相合性
统计理论
2020-01-07 v3 统计理论
摘要
变量选择对于改进多元线性回归中的推断与解释至关重要。尽管已提出许多备选回归量选择准则，最突出且广泛使用的是赤池信息准则（AIC）、贝叶斯信息准则（BIC）、Mallow's 及其修正。然而对于高维数据，经验表明这些经典准则的表现并非总令人满意。本文首先给出高维AIC、BIC和强相合性的充要条件（NSC），据此可识别其表现不佳的某些原因。具体而言，我们证明在某些温和高维条件下，若BIC强相合则AIC强相合，但反之不成立。该结果有悖于经典认识。此外，我们考虑了Zhao等（1986）与Nishii等（1988）引入的高维踢一出（KOO）方法强相合性的若干充要条件。进而基于KOO方法提出两种通用方法并证明其强相合性。所提通用方法去除了惩罚项，同时放宽了对回归量维数与规模的条件。模拟研究支持了我们的相合性结论，并表明两种所提通用KOO方法的收敛速度远快于原方法。
引用
@article{arxiv.1810.12609,
title = {Strong consistency of the AIC, BIC, $C_p$ and KOO methods in high-dimensional multivariate linear regression},
author = {Zhidong Bai and Yasunori Fujikoshi and Jiang Hu},
journal= {arXiv preprint arXiv:1810.12609},
year = {2020}
}