基于广义 U-统计量的随机森林渐近分布与收敛速率
机器学习
2021-11-17 v3 机器学习
统计理论
统计理论
摘要
随机森林仍是最受欢迎的即用型监督学习算法之一。然而，尽管其实证成功有目共睹，直到最近，可用于描述其性能与行为的理论结果仍寥寥无几。在本工作中，我们推进了近期关于一致性与渐近正态性的研究，建立了随机森林及其他监督学习集成方法的收敛速率。我们发展了广义 U-统计量的概念，并表明在此框架下，随机森林预测在比先前所确立更大的子样本尺寸下仍可能保持渐近正态。我们还提供了 Berry-Esseen 界以量化该收敛发生的速率，明确了子样本尺寸与树的数量在决定随机森林预测分布中的作用。
引用
@article{arxiv.1905.10651,
title = {Asymptotic Distributions and Rates of Convergence for Random Forests via Generalized U-statistics},
author = {Wei Peng and Tim Coleman and Lucas Mentch},
journal= {arXiv preprint arXiv:1905.10651},
year = {2021}
}
备注
76 pages, 7 figure