一种基于质心距离的软编码方案的新颖ECOC算法
人工智能
2018-06-25 v1 信息论
math.IT
摘要
在ECOC框架中，三元编码策略被广泛部署于编码过程。它用{"−1,0,1"}重新标记类别，其中−1/1表示将相应类别分配到负/正组，标签0导致在训练过程中忽略相应类别。然而，硬标签的应用可能丢失关于类分布倾向的一些信息。相反，我们提出一种基于质心距离的软编码方案来指示这种倾向，命名为CSECOC。在我们的算法中，应用顺序前向浮动选择（SFFS）通过最小化组内与组间距离之比来搜索最优类别分配。以此方式，初始生成硬编码矩阵。然后我们提出一种称为覆盖度的度量，用于描述一个类别中的样本落入正确组的概率。一个类别对一组的覆盖度替换相应的硬元素，从而形成软编码矩阵。与硬元素相比，此类软元素能反映类别属于正或负组的倾向。该算法中使用回归器而非分类器作为基学习器。据我们所知，这是首次提出软编码方案。在五个UCI数据集上的结果表明，与一些最先进的ECOC算法相比，我们的算法能以小规模集成产生可比或更好的分类准确率。
引用
@article{arxiv.1806.08465,
title = {A Novel ECOC Algorithm with Centroid Distance Based Soft Coding Scheme},
author = {Kaijie Feng and Kunhong Liu and Beizhan Wang},
journal= {arXiv preprint arXiv:1806.08465},
year = {2018}
}