融合同质集成以构建异质集成
机器学习
2019-06-11 v2 人工智能
机器学习
摘要
在集成方法中，将一组多样化分类器的输出进行组合，期望全局预测比单个分类器更准确。异质集成由不同类型的预测器组成，这些预测器可能具有不同的偏差。若这些偏差互补，则其决策组合是有益的。本工作中，通过从 M 个大小为 T 的不同类型同质集成中汇集分类器，构建了一族异质集成。根据每类基分类器的比例，该族中的特定异质组合由 M 维正则单纯形中的一个点表示。该单纯形的 M 个顶点代表不同的同质集成。远离某一顶点的位移可将相应的同质集成平滑地转化为异质集成。此类异质集成的最优组成可通过交叉验证确定，或者若使用自助样本构建个体分类器，则可通过袋外数据确定。由神经网络、SVM 和随机树（即标准随机森林中的树）组成的自助集成组合的实证分析说明了该异质集成构建方法所能带来的增益。
引用
@article{arxiv.1802.07877,
title = {Pooling homogeneous ensembles to build heterogeneous ones},
author = {Maryam Sabzevari and Gonzalo Martínez-Muñoz and Alberto Suárez},
journal= {arXiv preprint arXiv:1802.07877},
year = {2019}
}