基于无模型精确概率线性回归的协变量选择方法
统计方法学
2022-02-25 v2
摘要
本文针对线性回归中的协变量选择问题提出了一种全新的方法。仅当某个协变量或一组协变量在最小二乘意义下优于同等数量的由独立同分布 随机变量构成的高斯协变量时,才将其纳入模型。高斯 P 值定义为高斯协变量更优的概率。它由 Beta 分布给出,是精确的,且对所有数据均成立,因此是无模型的。协变量选择过程仅需为高斯 P 值设定一个截断值 :本文默认取 。所得过程非常简单、快速,不会过拟合,且只需最小二乘。特别地,无需正则化参数、无需数据分割、无需使用模拟、无需收缩,也无需选择后推断。本文包含模拟结果、对真实数据集的应用,以及在标准线性模型下渐近行为的定理。其中,逐步过程的表现远超我们所知的其他任何方法。R 包 {\it gausscov} 可供使用。
引用
@article{arxiv.2202.01553,
title = {Covariate Selection Based on a Model-free Approach to Linear Regression with Exact Probabilities},
author = {Laurie Davies and Lutz Dümbgen},
journal= {arXiv preprint arXiv:2202.01553},
year = {2022}
}