中文

序数决策树的分裂准则:一项实验研究

机器学习 2026-04-23 v3

摘要

序数分类(Ordinal Classification, OC)处理的是标签具有自然顺序的分类任务。与将所有类别视为互斥且无序的名义分类不同,OC 考虑了序数关系,从而产生更准确、更相关的结果。这在分类错误幅度具有重大影响的应用中尤为关键。尽管如此,OC 问题通常仍使用名义方法来解决,导致次优解。尽管决策树是最受欢迎的分类方法之一,但与其他分类器相比,基于树的序数方法受到的关注较少。本工作对序数分裂准则进行了全面综述,统一了文献中使用的符号以增强清晰度和一致性。通过将三种序数分裂准则——序数 Gini(OGini)、加权信息增益(WIG)和排序不纯度(RI)——与前两者的名义对应物(Gini 和信息增益)进行比较,并将它们纳入决策树分类器中。本文提出了一个包含 4545 个公开可用 OC 数据集的广泛存储库,支持使用众所周知的 OC 评估指标对序数和名义分裂准则进行首次实验比较。对结果进行了统计分析,突出表明 OGini 是迄今为止最好的序数分裂准则,将 Gini 达到的平均绝对误差降低了 3.02% 以上。为了促进可复现性,提供了所有开发的源代码、复现结果的详细指南、45 个 OC 数据集以及所有评估方法的单独结果。

关键词

引用

@article{arxiv.2412.13697,
  title  = {Splitting criteria for ordinal decision trees: an experimental study},
  author = {Rafael Ayllón-Gavilán and Francisco José Martínez-Estudillo and David Guijo-Rubio and César Hervás-Martínez and Pedro Antonio Gutiérrez},
  journal= {arXiv preprint arXiv:2412.13697},
  year   = {2026}
}

备注

33 pages, 4 figures, 6 tables