极端多标签分类中的聚类引导标签生成
计算与语言
2023-02-21 v1 机器学习
摘要
对于极端多标签分类（XMC），现有的基于分类的模型在尾部标签上表现不佳，并且常常忽略标签之间的语义关系，例如将“Wikipedia”和“Wiki”视为独立且分离的标签。在本文中，我们将XMC视为一个生成任务（XLGen），从而受益于预训练的文本到文本模型。然而，在没有任何约束或引导的情况下，从极其庞大的标签空间中生成标签是具有挑战性的。因此，我们提出使用标签聚类信息来引导标签生成，以分层方式生成较低级别的标签。我们还发现，基于频率的标签排序和使用解码集成方法是XLGen改进的关键因素。带有聚类引导的XLGen在尾部标签上显著优于分类和生成基线，并且在四个流行的XMC基准测试中也普遍提高了整体性能。在人工评估中，我们还发现XLGen能生成未见但合理的标签。我们的代码现已开源：https://github.com/alexa/xlgen-eacl-2023。
引用
@article{arxiv.2302.09150,
title = {Cluster-Guided Label Generation in Extreme Multi-Label Classification},
author = {Taehee Jung and Joo-Kyung Kim and Sungjin Lee and Dongyeop Kang},
journal= {arXiv preprint arXiv:2302.09150},
year = {2023}
}