LA-HCN:基于标签注意力的层次多标签文本分类神经网络
计算与语言
2021-04-13 v3 人工智能
摘要
层次多标签文本分类(HMTC)因其在大量现实应用中的适用性,近年来日益受到关注。现有 HMTC 算法主要聚焦于分类器的设计,如局部、全局或二者结合。然而,极少有研究关注层次特征提取并探索层次标签与文本之间的关联。本文提出一种用于层次多标签文本分类的基于标签注意力的神经网络(LA-HCN),其中设计了新颖的基于标签的注意力模块,以根据不同层次级别的标签从文本中分层提取重要信息。此外,层次信息在各级间共享,同时保留基于层次标签的信息。获得独立的局部与全局文档嵌入,并用于促进相应的局部与全局分类。在我们的实验中,LA-HCN 在四个公开 HMTC 数据集上优于其他基于神经网络的 SOTA HMTC 算法。消融研究也证明了所提基于标签的注意力模块以及新颖的局部与全局嵌入和分类的有效性。通过可视化学习到的注意力(词),我们发现 LA-HCN 能够提取与不同标签对应的有意义信息,从而提供可解释性,可能有助于人工分析者。
引用
@article{arxiv.2009.10938,
title = {LA-HCN: Label-based Attention for Hierarchical Multi-label TextClassification Neural Network},
author = {Xinyi Zhang and Jiahao Xu and Charlie Soh and Lihui Chen},
journal= {arXiv preprint arXiv:2009.10938},
year = {2021}
}
备注
code is available at https://github.com/XinyiZ001/LA-HCN