关于模型平均估计量的高维渐近性质

当回归问题中考虑多个模型时，可采用模型平均方法对模型进行加权与整合。在本研究中，我们考察了在线性模型中使用模型平均方法的一种推广形式时，估计量的预测优良性如何依赖于解释变量的维数。我们具体考虑了高维解释变量的情况，并对这些变量的子集部署多个线性模型。据此，我们推导出了能产生最佳预测的最优权重。我们还观察到模型平均估计量中出现了双下降现象。此外，我们通过将随机森林等方法适配于线性回归模型获得了理论结果。最后，我们通过数值实验进行了实际验证。