基于模糊超盒的动态集成选择
机器学习
2022-05-24 v1 人工智能
摘要
大多数动态集成选择(DES)方法利用 K 近邻(KNN)算法来估计查询样本周围小区域内分类器的能力。然而,KNN 对数据的局部分布非常敏感。此外,它还具有高计算成本,因为需要在内存中存储全部数据并在推理期间执行多次距离计算。因此,对 KNN 算法的依赖最终限制了 DES 技术在大规模问题中的使用。本文提出一种基于模糊超盒的称为 FH-DES 的新 DES 框架。每个超盒可仅用两个数据点(最小和最大角点)表示一组样本。因此,基于超盒的系统将比其他动态选择方法具有更低的计算复杂度。此外,与基于 KNN 的方法不同,模糊超盒对局部数据分布不敏感。因此,样本的局部分布不影响系统性能。而且,在本研究中首次使用被误分类的样本来估计分类器的能力,这是以往的融合方法中未见的。实验结果表明,与最先进的动态选择方法相比,所提方法具有高精度且复杂度更低。实现代码可在 https://github.com/redavtalab/FH-DES_IJCNN.git 获取。
引用
@article{arxiv.2205.10438,
title = {Dynamic Ensemble Selection Using Fuzzy Hyperboxes},
author = {Reza Davtalab and Rafael M. O. Cruz and Robert Sabourin},
journal= {arXiv preprint arXiv:2205.10438},
year = {2022}
}