将层次文本分类作为子层次序列生成
计算与语言
2023-11-08 v3 人工智能
摘要
层次文本分类（HTC）对各种实际应用至关重要。然而，HTC 模型难以开发，因为它们通常需要处理大量文档和具有层次分类法的标签。近期基于深度学习的 HTC 模型试图将层次信息融入模型结构中。因此，当模型参数随大规模层次增大而增加时，这些模型难以实现，因为模型结构依赖于层次规模。为解决此问题，我们将 HTC 表述为子层次序列生成，将层次信息融入目标标签序列而非模型结构中。随后，我们提出层次解码器（HiDEC），其使用递归层次解码将文本序列解码为子层次序列，一次性将同层的所有父节点分类为子节点。此外，HiDEC 通过注意力机制和层次感知掩码，被训练以利用从根到子层次中目标文档标签组成的每个叶子的层次路径信息。在 RCV1-v2、NYT 和 EURLEX57K 等基准数据集上，HiDEC 以显著少于现有模型的参数量实现了最先进性能。
引用
@article{arxiv.2111.11104,
title = {Hierarchical Text Classification As Sub-Hierarchy Sequence Generation},
author = {SangHun Im and Gibaeg Kim and Heung-Seon Oh and Seongung Jo and Donghwan Kim},
journal= {arXiv preprint arXiv:2111.11104},
year = {2023}
}
备注
9 pages, 5 figures, Published at AAAI23