META-DES.H:一种使用元学习与动态加权方法的动态集成选择技术
机器学习
2018-11-06 v1 人工智能
机器学习
摘要
在动态集成选择(DES)技术中,仅选取最有能力的分类器对给定查询样本分类。因此,DES 的关键问题是如何估计池中每个分类器的能力以选取最有能力者。为处理此问题,我们提出了一种使用元学习的新型动态集成选择框架,称为 META-DES。该框架分为三步。第一步,从训练数据生成分类器池。第二阶段,利用训练数据计算元特征,并用于训练一个能预测池中基分类器是否足以分类输入实例的元分类器。本文中,我们对 META-DES 框架的训练与泛化阶段提出改进。在训练阶段,我们评估了四种不同算法用于元分类器训练。对于泛化阶段,评估了三种组合方法:动态选择,仅选取达到某能力水平的分类器;动态加权,由元分类器估计池中每个分类器的能力,并基于其能力水平对池中所有分类器输出加权;以及混合方法,先选取最有能力分类器组成集成,再估计所选分类器权重以用于加权多数投票方案。实验在 30 个分类数据集上进行。实验结果表明,本文所提改动在多个数据集上显著提升了系统识别精度。
引用
@article{arxiv.1811.01742,
title = {META-DES.H: a dynamic ensemble selection technique using meta-learning and a dynamic weighting approach},
author = {Rafael M. O. Cruz and Robert Sabourin and George D. C. Cavalcanti},
journal= {arXiv preprint arXiv:1811.01742},
year = {2018}
}
备注
arXiv admin note: substantial text overlap with arXiv:1509.00825, arXiv:1810.01270, arXiv:1811.00217