贝叶斯回归树中变量活跃度的评估
统计方法学
2020-09-16 v2
摘要
贝叶斯加性回归树(BART)是能够捕捉复杂外生变量效应的非参数模型。在任何回归问题中,了解哪些变量最活跃通常令人关注。BART中的变量活跃度通常通过统计每棵树对每个变量进行分裂的次数来度量。此类单向计数具有计算快速的优势。尽管方便,单向计数存在若干问题:它们在统计上缺乏依据,无法区分主效应与交互效应,且在度量交互效应时会被夸大。文献中一种成熟的替代方法是Sobol'指数,一种基于方差的全局敏感性分析技术。然而,这些指数常需蒙特卡洛积分,计算开销可能较大。本文给出了BART后验样本Sobol'指数的解析表达式。这些表达式易于解释且计算可行。此外,我们将展示一阶(主效应)Sobol'指数与单向计数之间引人入胜的联系。我们还引入了一种新颖的排序方法,并借此证明所提指数保留了基于Sobol'的变量重要性排序。最后,我们使用解析测试函数与En-ROADS气候影响模拟器对这些方法进行比较。
引用
@article{arxiv.2005.13622,
title = {Assessing variable activity for Bayesian regression trees},
author = {Akira Horiguchi and Matthew T. Pratola and Thomas J. Santner},
journal= {arXiv preprint arXiv:2005.13622},
year = {2020}
}
备注
46 pages, 8 figures, submitted to the special issue "Recent Advances in Sensitivity Analysis of Model Outputs" in the Reliability Engineering and Safety System journal