Bonsai——面向极端多标签分类的多样化浅层树
机器学习
2019-08-13 v2 机器学习
摘要
极端多标签分类(XMC)指的是涉及数十万甚至数百万标签的监督式多标签学习。在本文中,我们开发了一套称为 Bonsai 的算法,它推广了 XMC 中标签表示的概念,并在表示空间中对标签进行划分以学习浅层树。我们展示了该标签表示空间的三种具体实现,包括:(i)由输入特征张成的输入空间,(ii)基于标签与其他标签共现性而由标签向量张成的输出空间,以及(iii)通过结合输入与输出表示得到的联合空间。此外,在这些空间中迭代学习到的无约束多路划分导致了浅层树。通过结合浅层树与广义标签表示的效果,Bonsai 实现了两全其美——训练速度快,可与 XMC 中基于树的最先进方法相媲美,且预测精度更高,尤其是在尾部标签上。在具有 300 万标签的 Amazon-3M 基准数据集上,\bonsai 在预测精度方面优于最先进的一对多(one-vs-rest)方法,同时训练速度约快 200 倍。Bonsai 的代码可在 \url{https://github.com/xmc-aalto/bonsai} 获取。
引用
@article{arxiv.1904.08249,
title = {Bonsai -- Diverse and Shallow Trees for Extreme Multi-label Classification},
author = {Sujay Khandagale and Han Xiao and Rohit Babbar},
journal= {arXiv preprint arXiv:1904.08249},
year = {2019}
}