中文

LdSM:对数深度流式多标签决策树

机器学习 2020-06-11 v5 机器学习

摘要

我们考虑多标签分类问题,其目标是用来自极大标签集中最相关的标签子集对每个数据点进行标注。利用平衡树预测器(即标签复杂度上深度为对数、其叶子对应标签的树)可实现高效标注。为真实数据应用设计此类树的预测机制并非易事,因为它需要支持将样本发送至多个叶子,同时保持较高的预测精度。本文提出 LdSM 算法用于多标签决策树的构建与训练,在树的每个节点上优化一个新颖的目标函数,该函数倾向于平衡划分、保持子节点较高的类纯度,并允许将样本发往多个方向但施加惩罚以防止树过度生长。树的每个节点在前一节点完成后才进行训练,从而形成一种流式的训练方式。我们从理论上分析了所提出的目标函数,并证明最小化它可得到纯且平衡的数据划分。此外,我们给出一个提升定理,刻画了其多标签分类误差之间的联系。在基准数据集上的实验结果表明,我们的方法取得了较高的预测精度和较低的预测时间,并使 LdSM 成为现有 SOTA 方法中具有竞争力的工具。

关键词

引用

@article{arxiv.1905.10428,
  title  = {LdSM: Logarithm-depth Streaming Multi-label Decision Trees},
  author = {Maryam Majzoubi and Anna Choromanska},
  journal= {arXiv preprint arXiv:1905.10428},
  year   = {2020}
}