将层次结构融入文本编码器:一种面向层次化文本分类的对比学习方法
计算与语言
2022-03-24 v2
摘要
层次化文本分类由于其复杂的标签层次结构,是多标签分类中一项具有挑战性的子任务。现有方法分别编码文本和标签层次结构,并混合它们的表示进行分类,其中层次结构对所有输入文本保持不变。与其分别建模,本工作中我们提出层次引导对比学习(HGCLR),将层次结构直接嵌入文本编码器。在训练期间,HGCLR在标签层次结构的引导下为输入文本构造正样本。通过将输入文本与其正样本拉近,文本编码器能够独立学习生成感知层次结构的文本表示。因此,训练完成后,经HGCLR增强的文本编码器可以省去冗余的层次结构。在三个基准数据集上的大量实验验证了HGCLR的有效性。
引用
@article{arxiv.2203.03825,
title = {Incorporating Hierarchy into Text Encoder: a Contrastive Learning Approach for Hierarchical Text Classification},
author = {Zihan Wang and Peiyi Wang and Lianzhe Huang and Xin Sun and Houfeng Wang},
journal= {arXiv preprint arXiv:2203.03825},
year = {2022}
}
备注
ACL 2022 main conference