斜交贝叶斯加性回归树
机器学习
2024-11-14 v1 机器学习
摘要
当前的贝叶斯加性回归树(BART)实现基于轴对齐的决策规则,一次使用单个特征递归划分特征空间。多位作者已证明,基于特征线性组合的斜交树有时能产生比轴对齐树更好的预测,并表现出优良的理论性质。我们开发了一个斜交版本的BART,利用数据自适应决策规则先验,沿随机超平面递归划分特征空间。使用若干合成和真实世界基准数据集,我们系统地将我们的斜交BART实现与轴对齐BART及其他树集成方法进行比较,发现斜交BART与这些方法具有竞争力——有时甚至好得多。
引用
@article{arxiv.2411.08849,
title = {Oblique Bayesian additive regression trees},
author = {Paul-Hieu V. Nguyen and Ryan Yee and Sameer K. Deshpande},
journal= {arXiv preprint arXiv:2411.08849},
year = {2024}
}