GUDN：一种用于极端多标签文本分类的带标签增强策略的新型引导网络
计算与语言
2022-11-22 v2
摘要
在自然语言处理中，极端多标签文本分类是一项新兴但至关重要的任务。极端多标签文本分类（XMTC）的问题是从极其庞大的标签集中为文本召回一些最相关的标签。大规模预训练模型为这一问题带来了新的趋势。尽管大规模预训练模型在该问题上取得了显著成就，但有价值的微调方法尚待研究。尽管标签语义已在XMTC中被引入，但文本与标签之间巨大的语义鸿沟尚未得到足够关注。本文构建了一种新的引导网络（GUDN），以帮助微调预训练模型，从而后续指导分类。此外，GUDN利用原始标签语义结合一种有用的标签增强策略，有效探索文本与标签之间的潜在空间，缩小语义鸿沟，从而进一步提高预测精度。实验结果表明，GUDN在Eurlex-4k上优于当前最优（state-of-the-art）方法，并在其他流行数据集上取得了具有竞争力的结果。在一项附加实验中，我们研究了输入长度对基于Transformer的模型精度的影响。我们的源代码发布于 https://t.hk.uy/aFSH。
引用
@article{arxiv.2201.11582,
title = {GUDN: A novel guide network with label reinforcement strategy for extreme multi-label text classification},
author = {Qing Wang and Jia Zhu and Hongji Shu and Kwame Omono Asamoah and Jianyang Shi and Cong Zhou},
journal= {arXiv preprint arXiv:2201.11582},
year = {2022}
}
备注
12 pages, 6 figures