用于回归的 Riemann-Lebesgue 森林

我们提出了一种用于回归的新型集成方法，称为 Riemann-Lebesgue 森林（RLF）。RLF 的核心思想是模拟可测函数通过将其值域划分为若干区间来进行近似的方式。基于这一思想，我们开发了一种名为 Riemann-Lebesgue 树（RLT）的新型树学习器，它有机会执行 Lebesgue 类型切割，即在某些非终端节点处从响应 $Y$ 中分裂节点。我们表明，与普通 CART \cite{Breiman1984ClassificationAR} 切割（Riemann 划分的类似物）相比，最优 Lebesgue 类型切割能在响应 $Y$ 中产生更大的方差缩减。这种特性有利于 RLF 的集成部分。我们还推广了 RLF 在不同参数设置下的渐近正态性。提供了两个一维示例来说明 RLF 的灵活性。通过在模拟数据和真实世界数据集上的实验，证明了 RLF 相对于原始随机森林 \cite{Breiman2001RandomF} 的竞争优势。