agtboost:自适应自动梯度树提升计算
机器学习
2020-08-31 v1 机器学习
应用统计
统计计算
摘要
agtboost 是一个 R 语言包,以类似于 xgboost 和 LightGBM 等其他成熟框架的方式实现快速梯度树提升计算,但在计算时间与所需数学及技术知识方面显著降低。该包自动处理分裂/不分裂决策,并选择梯度树提升集成中的树数量,即 agtboost 根据数据中的信息自动适配集成的复杂度。所有这些均在单次训练运行中完成,这是通过利用信息论在树算法上的进展得以实现({\tt arXiv:2008.05926v1 [stat.ME]})。agtboost 还附带一个特征重要性函数,消除了插入噪声特征的常见做法。此外,一个有用的模型验证函数对所学分布执行 Kolmogorov-Smirnov 检验。
引用
@article{arxiv.2008.12625,
title = {agtboost: Adaptive and Automatic Gradient Tree Boosting Computations},
author = {Berent Ånund Strømnes Lunde and Tore Selland Kleppe},
journal= {arXiv preprint arXiv:2008.12625},
year = {2020}
}
备注
16 pages, 5 figures, 2 tables