K近邻预言机边界动态分类器集成选择
机器学习
2018-11-01 v1 人工智能
机器学习
摘要
动态集成选择（DES）技术旨在为每个新测试样本选择局部胜任的分类器。大多数 DES 技术通过在测试样本的能力区域（其在验证集中的最近邻）上使用给定准则来估计分类器的胜任度。K近邻预言机消除（KNORA-E）DES 选择所有正确分类测试样本能力区域中所有样本的分类器，若存在这样的分类器；否则，它从能力区域中移除距测试样本最远的样本，并重复该过程。当能力区域含有不同类别的样本时，KNORA-E 可能缩减能力区域，使得能力区域中仅剩单一类别的样本，从而导致选择将能力区域中所有样本均分类为同一类的局部不胜任分类器。在本文中，我们提出两种 DES 技术：K近邻预言机边界（KNORA-B）与 K近邻预言机边界不平衡（KNORA-BI）。KNORA-B 是一种基于 KNORA-E 的 DES 技术，它缩减能力区域但保留原始能力区域中每个类别的至少一个样本。KNORA-BI 是 KNORA-B 针对不平衡数据集的变体，它缩减能力区域但若存在原始能力区域中的少数类样本则保留至少一个少数类样本。实验使用 40 个数据集将所提技术与文献中的 19 种 DES 技术进行比较。结果表明所提技术取得了有趣的结果，其中 KNORA-BI 优于最先进的技术。
引用
@article{arxiv.1804.06943,
title = {K-Nearest Oracles Borderline Dynamic Classifier Ensemble Selection},
author = {Dayvid V. R. Oliveira and George D. C. Cavalcanti and Thyago N. Porpino and Rafael M. O. Cruz and Robert Sabourin},
journal= {arXiv preprint arXiv:1804.06943},
year = {2018}
}
备注
Paper accepted for publication on IJCNN 2018