中文

回归中的深度模型无关预测

机器学习 2024-09-13 v3 机器学习 统计方法学

摘要

本文提出一种基于深度神经网络(DNN)的新颖模型无关方法,用于在通用回归设置下实现点预测和预测区间。通常,人们依赖参数或非参数模型来建立因变量(Y)和自变量(X)之间的联系。然而,这种经典方法严重依赖正确的模型指定。即使采用非参数方法,也常常假设某种可加形式。最近提出的模型无关预测原则为无任何模型假设的预测程序提供了思路。此前关于该原则的工作显示出优于其他标准方法的更好性能。最近,DNN作为一种机器学习方法因其在实际中的卓越表现而受到日益关注。我们引导模型无关预测思想,尝试将一个全连接前向DNN用于将X和一些合适的参考随机变量Z映射到Y。目标DNN通过最小化特殊设计的损失函数进行训练,以将Y在给定X下的随机性外包给Z。我们的方法在其他DNN方法中更稳定且更准确,尤其是对于最优点预测。通过特定的预测程序,我们的预测区间能够捕捉估计的变异性,从而在有限样本情况下实现更好的覆盖率。我们的方法通过仿真和实证研究验证了其优越性能。

关键词

引用

@article{arxiv.2408.09532,
  title  = {Deep Limit Model-free Prediction in Regression},
  author = {Kejin Wu and Dimitris N. Politis},
  journal= {arXiv preprint arXiv:2408.09532},
  year   = {2024}
}