密集自适应级联森林：用于分类问题的自适应深度集成
机器学习
2019-05-15 v5 机器学习
摘要
最近的研究表明，与一般的集成学习方法相比，深度森林集成在分类准确率上取得了显著提升，尤其是在训练集较小的情况下。在本文中，我们利用深度森林集成的优势，引入了密集自适应级联森林。我们的模型比原始的 Cascade Forest 性能更好，具有三个主要特征：首先，我们应用 SAMME.R boosting 算法来提升模型性能，这保证了随着层数的增加性能得到提升。其次，我们的模型以前馈方式将每一层连接到后续层，增强了模型抵抗性能退化的能力。第三，我们在第一个分类层之前添加了一个超参数优化层，使我们的模型花费更少的时间来设置并寻找最优超参数。实验结果表明，daForest 表现优异，在某些情况下甚至优于神经网络，并取得了 state-of-the-art 的结果。
引用
@article{arxiv.1804.10885,
title = {Dense Adaptive Cascade Forest: A Self Adaptive Deep Ensemble for Classification Problems},
author = {Haiyang Wang and Yong Tang and Ziyang Jia and Fei Ye},
journal= {arXiv preprint arXiv:1804.10885},
year = {2019}
}
备注
22 pages, 6 figures