基于 p 值求和对 CART 树进行正则化
统计方法学
2025-10-29 v2 统计理论
统计理论
摘要
决定 CART 回归树复杂性的标准程序是使用交叉验证以获得对未见数据具有良好泛化能力的预测器。由于交叉验证中抽取折叠的随机性，所选定制 CART 回归树是数据函数的非确定性结果。此外，交叉验证程序可能耗时且高效利用训练数据。我们提出一种简单且确定性的样本内方法，可基于节点级统计检验停止 CART 回归树的生长。该检验程序通过与改变点检测的关联推导得出，其中原假设对应于无信号。所建议的 p 值基于的方法允许我们考虑任意维度的协变量向量，并允许我们从上界对整个树的 p 值进行界限。进一步地，我们证明该检验在给定足够大的样本量时，能够以高概率检测到足够强的信号。我们在仿真数据和真实世界数据上展示了该方法及其渐近结果。此外，我们展示了如何使用 p 值基于的方法构建基于给定黑盒预测器的确定性分段常数自校准预测器。
引用
@article{arxiv.2505.18769,
title = {Regularisation of CART trees by summation of $p$-values},
author = {Nils Engler and Mathias Lindholm and Filip Lindskog and Taariq Nazar},
journal= {arXiv preprint arXiv:2505.18769},
year = {2025}
}