flexBART：具有分类预测变量的灵活贝叶斯回归树
统计方法学
2024-08-14 v3 机器学习
摘要
大多数贝叶斯加性回归树（BART）的实现对分类预测变量进行独热编码，将每个变量替换为多个二元指示符，每个指示符对应一个水平或类别。使用这些指示符构建的回归树通过一次移除一个水平来划分分类水平的离散集合。不幸的是，绝大多数划分无法用这种策略构建，严重限制了 BART 在不同水平组之间部分汇集数据的能力。受棒球数据和邻里级犯罪动态分析的启发，我们通过重新实现 BART 来克服这一限制，新的回归树可以将多个水平分配到决策树节点的两个分支。为了对聚合到小区域的空间数据进行建模，我们进一步提出了一种新的决策规则先验，通过从适当定义的网络的随机生成树中删除一条随机边来创建空间连续的区域。我们的重新实现（可在 flexBART 包中获取）通常能产生更好的样本外预测性能，并且比现有的 BART 实现能更好地扩展到更大的数据集。
引用
@article{arxiv.2211.04459,
title = {flexBART: Flexible Bayesian regression trees with categorical predictors},
author = {Sameer K. Deshpande},
journal= {arXiv preprint arXiv:2211.04459},
year = {2024}
}
备注
Software available at https://github.com/skdeshpande91/flexBART