中文

关于 BART 的理论研究

机器学习 2018-10-08 v2 机器学习

摘要

集成学习是一种统计范式,其前提为许多弱学习器集体部署时可表现极为出色。Chipman 等人(2010)的 BART 方法是贝叶斯集成学习的突出范例,其中每个学习器为一棵树。由于其令人印象深刻的性能,BART 受到了从业者的广泛关注。然而,尽管其广受欢迎,对 BART 的理论研究直到最近才开始出现。Rockova 和 van der Pas (2017) 为贝叶斯森林的理论分析奠定基础,展示了在条件均匀树先验下的最优后验集中。这些先验偏离了 BART 中实际实施的先验。在此,我们研究精确的 BART 先验并提出一个简单修正,使其同样具备最优性性质。为此,我们深入分支过程理论。我们利用异质 Galton-Watson (GW) 过程与随机游走的联系,获得其总后代数分布的尾界。我们以陈述 BART 后验收敛最优速率的结果作结。

关键词

引用

@article{arxiv.1810.00787,
  title  = {On Theory for BART},
  author = {Veronika Rockova and Enakshi Saha},
  journal= {arXiv preprint arXiv:1810.00787},
  year   = {2018}
}

备注

22