GOOWE:面向演化数据流的几何最优在线加权集成分类器
机器学习
2017-09-12 v1
摘要
由于数据规模及其动态变化特性,为演化数据流设计自适应分类器是一项具有挑战性的任务。在在线环境中组合多个独立分类器(即集成方法)是一种众所周知的解决方案。集成中可能存在一部分分类器随时间变化优于其他分类器的情况。然而,在在线演化环境中,为组件分类器分配最优权重的问题尚未得到充分解决。我们提出了一种新颖的数据流集成分类器,称为几何最优在线加权集成(GOOWE),它利用包含最近数据实例的滑动窗口为组件分类器分配最优权重。我们将各个分类器的投票分数与真实类标签映射到一个空间环境中。基于投票分数与理想点之间的欧氏距离,并利用线性最小二乘(LSQ)解,我们提出了一种新颖、动态且在线加权的方法。尽管LSQ被用于批处理模式集成分类器,但我们通过提供在线集成的空间建模,首次将其改造并应用于在线环境。为展示所提算法的鲁棒性,我们使用真实世界数据集和基于MOA库的合成数据生成器。首先,我们通过两种情景分析了加权系统对预测精度的影响。其次,我们在综合实验环境中将GOOWE与8种最先进的集成分类器进行比较。我们的实验表明,与基线相比,GOOWE对不同类型概念漂移提供了更好的响应。统计检验表明精度有显著提升,且时间和内存需求保守。
引用
@article{arxiv.1709.02800,
title = {GOOWE: Geometrically Optimum and Online-Weighted Ensemble Classifier for Evolving Data Streams},
author = {Hamed R. Bonab and Fazli Can},
journal= {arXiv preprint arXiv:1709.02800},
year = {2017}
}
备注
33 Pages, Accepted for publication in The ACM Transactions on Knowledge Discovery from Data (TKDD) in August 2017