GS-BART: 具有图分割决策规则的贝叶斯加性回归树
统计方法学
2025-09-10 v1
摘要
诸如 XGBoost、随机森林和贝叶斯加性回归树(BART)等集成决策树方法因其在机器学习回归和分类任务中的卓越性能,在数据科学中获得了极大的普及。在本文中,我们引入了一种新的贝叶斯图分割加性决策树方法 GS-BART,旨在增强基于轴平行分割的 BART 对具有图结构的相依数据的性能。该方法将输入特征信息编码为候选图集,并采用在构建决策树时遵循图拓扑的灵活分割规则。我们考虑了使用 GS-BART 的广义非参数回归模型,并设计了一种可扩展的知情 MCMC 算法来对 GS-BART 的决策树进行采样。该算法利用了根有向生成树或链上基于梯度的递归算法。该方法在空间和网络数据分析的各种回归和分类任务中表现出优于传统集成树模型和高斯过程回归模型的性能。
引用
@article{arxiv.2509.07166,
title = {GS-BART: Bayesian Additive Regression Trees with Graph-split Decision Rules},
author = {Shuren He and Huiyan Sang and Quan Zhou},
journal= {arXiv preprint arXiv:2509.07166},
year = {2025}
}