BART的艺术：高维非齐次光滑性下的极小极大最优性

许多用于函数估计的渐近极小极大方法通常依赖于各向同性 or 空间齐性等有些任意且限制性的假设。本文在大幅放宽光滑性假设的条件下增强了对贝叶斯加性回归树的理论理解。我们全面研究了当回归函数具有可能随函数域变化的各向异性光滑性时，贝叶斯森林的渐近最优性与后验收缩。回归函数也可能不连续。我们引入了一类新的稀疏分段异质各向异性Hölder函数，并推导了其在高维情形下L_2损失下的估计极小极大下界。然后我们发现，贝叶斯树先验与用于高维稀疏估计的Dirichlet子集选择先验相结合，能够自适应未知的异质光滑性、不连续性和稀疏性。这些结果表明，贝叶斯森林 uniquely suited 于更一般的估计问题，而此类问题会使其他默认机器学习工具（如高斯过程）变为次优。我们的数值研究表明，贝叶斯森林通常优于随机森林和深度神经网络等其他竞争者，后者被认为对不连续或复杂光滑函数表现良好。除非参数回归外，我们还利用本研究发展的技术考察了贝叶斯森林在密度估计和二分类中的后验收缩。