中文

分类器集成结构多样性对分类精度的影响

机器学习 2008-05-01 v1

摘要

本文旨在展示由 9 个分类器组成的集成的结构多样性度量,并建立该结构多样性与精度之间的关系。结构多样性是通过采用不同架构或结构的分类器诱导产生的。利用遗传算法(GA),通过演化分类器并从 60 个分类器的集成中选取 9 个,推导出多样性与分类精度之间的关系。研究发现,随着集成多样性的增加,精度随之提高;然而,当多样性达到某一特定度量值时,精度开始下降。采用 Kohavi-Wolpert 方差法度量集成的多样性,并使用投票法聚合各分类器的结果。在多样性度量为 0.16 时观察到最低误差,均方误差为 0.274,此时最大多样性度量值为 0.2024。变化的参数包括:隐藏节点数量、学习率和激活函数。

关键词

引用

@article{arxiv.0804.4741,
  title  = {The Effect of Structural Diversity of an Ensemble of Classifiers on Classification Accuracy},
  author = {Lesedi Masisi and Fulufhelo V. Nelwamondo and Tshilidzi Marwala},
  journal= {arXiv preprint arXiv:0804.4741},
  year   = {2008}
}

备注

6 pages,IASTED International Conference on Modelling and Simulation (Africa-MS), 2008