中文

少即是多:确定集成分类器组件数量的综合框架

机器学习 2018-10-02 v2 机器学习

摘要

集成分类器中组件分类器的数量选择极大影响预测能力。本文使用一种几何框架来先验确定集成规模,该框架适用于大多数现有的批量和在线集成分类器。关于集成规模的研究有限,仅考察了多数投票(MV)和加权多数投票(WMV)。它们几乎都为批处理模式设计,很少解决在线环境。大数据维度以及时间和内存方面的资源限制,使得确定集成规模至关重要,尤其对于在线环境。对于MV聚合规则,我们的框架证明,向集成中添加更多强组件,我们可以实现更准确的预测。对于WMV聚合规则,我们的框架证明存在一个理想的组件数量,其等于类标签的数量,前提是组件彼此完全独立且足够强。尽管在集成背景下给出强且独立分类器的精确定义是一项具有挑战性的任务,我们提出的几何框架提供了多样性的理论解释及其对预测精度的影响。我们进行了一系列实验评估,以展示我们定理的实用价值和现有挑战。

关键词

引用

@article{arxiv.1709.02925,
  title  = {Less Is More: A Comprehensive Framework for the Number of Components of Ensemble Classifiers},
  author = {Hamed Bonab and Fazli Can},
  journal= {arXiv preprint arXiv:1709.02925},
  year   = {2018}
}

备注

This is an extended version of the work presented as a short paper at the Conference on Information and Knowledge Management (CIKM), 2016