中文

FIRE-DES++:用于动态集成选择的基分类器在线剪枝增强方法

机器学习 2020-03-06 v2 机器学习

摘要

尽管动态集成选择(DES)技术在多种分类任务中非常有效,但其可能选出将能力区域内的所有样本均分类为同一类的分类器。Frienemy Indecision REgion DES(FIRE-DES)通过预选那些在测试样本能力区域内至少正确分类一对来自不同类别样本的分类器来解决此问题。然而,FIRE-DES 仅当测试样本的能力区域由来自不同类别的样本组成(犹豫区域)时才对该测试样本进行分类预选,尽管当使用经典最近邻方法获得能力区域时,该准则并不可靠地判定测试样本是否位于类别边界附近(真实犹豫区域)。因此,FIRE-DES 将噪声区域误认为真实犹豫区域,导致预选不胜任的分类器,并将真实犹豫区域误认为安全区域,使此类区域中的样本无任何预选。为解决这些问题,我们提出 FIRE-DES++,一种增强型 FIRE-DES,其去除验证集中的噪声并减少类别重叠;且使用每类相等数量的样本定义能力区域,避免选出仅含单类样本的能力区域。我们使用 FIRE-DES++ 与 8 种不同动态选择技术在 64 个分类数据集上进行了实验。实验结果表明,FIRE-DES++ 提升了本文所考虑的所有 DES 技术的分类性能,在 8 种 DES 技术中有 7 种优于 FIRE-DES,并优于最先进的 DES 框架。

关键词

引用

@article{arxiv.1810.00520,
  title  = {FIRE-DES++: Enhanced Online Pruning of Base Classifiers for Dynamic Ensemble Selection},
  author = {Rafael M. O. Cruz and Dayvid V. R. Oliveira and George D. C. Cavalcanti and Robert Sabourin},
  journal= {arXiv preprint arXiv:1810.00520},
  year   = {2020}
}

备注

Article published on Pattern Recognition, 2019