基于无假设精确概率线性回归协变量选择方法
统计方法学
2023-02-09 v4 应用统计
摘要
本文针对线性回归中的协变量选择问题给出了一种全新的方法。仅当某个协变量或一组协变量在最小二乘意义下优于同样数量的由独立同分布 随机变量构成的高斯协变量时,才将其纳入模型。高斯 P 值定义为高斯协变量更优的概率。它由 Beta 分布给出,是精确的,且对一切数据均成立。基于此的协变量选择过程仅需为高斯 P 值设定一个截断值 :本文默认值为 。所得过程非常简单、快速,不会过拟合,且只需最小二乘。特别地,无需正则化参数、无需数据分割、无需使用模拟、无需收缩,也无需事后选择推断。文中包含模拟结果、对真实数据集的应用,以及在标准线性模型下渐近行为的定理。其中逐步过程的表现远超我们所知的其他任何方法。可用的 R 包为 {\it gausscov}。
引用
@article{arxiv.1906.01990,
title = {Covariate Selection Based on a Assumpton-free Approach to Linear Regression with Exact Probabilities},
author = {Laurie Davies and Lutz Dümbgen},
journal= {arXiv preprint arXiv:1906.01990},
year = {2023}
}
备注
The material has been updated and reorganized in two separate papers: arXiv:1807.09633v4+ and arXiv:2202.01553v2+