贝叶斯回归树模型中的影响观测
统计方法学
2023-05-19 v2
摘要
BCART(贝叶斯分类与回归树)与 BART(贝叶斯加性回归树)是广受欢迎的贝叶斯回归模型,适用于现代回归问题。其流行密切依赖于在依赖高维输入灵活建模复杂响应的同时能够量化不确定性的能力。这种量化不确定性的能力是关键,因为它使研究者能在通常难以用贝叶斯方法处理的设定中进行恰当的推断分析。然而,令人惊讶的是,评估这些现代回归模型对建模假设违背的敏感性的工作甚少。特别地,我们将考虑影响观测,人们有理由认为其在大数据设定中常见——或至少是一个顾虑。本文中,我们同时考虑检测影响观测的问题,以及调整预测使其不被这些潜在有问题数据过度影响的问题。我们考虑了三种贝叶斯树模型的检测诊断方法:一种是 Cook 距离的类比,另两种分别采用散度度量与条件预测密度度量的形式,并提出一种重要性采样算法对先前采样的后验抽样进行重加权,从而以计算高效的方式去除影响数据的效应。最后,我们的方法在真实数据上进行了演示,其中盲目应用模型会导致糟糕的预测与推断。
引用
@article{arxiv.2203.14102,
title = {Influential Observations in Bayesian Regression Tree Models},
author = {Matthew T. Pratola and Edward I. George and Robert E. McCulloch},
journal= {arXiv preprint arXiv:2203.14102},
year = {2023}
}