中文

实例与标签:面向层次多标签文本分类的层次感知联合监督对比学习

计算与语言 2024-06-21 v3 人工智能 机器学习

摘要

层次多标签文本分类(HMTC)旨在多标签分类中利用标签层次结构。近期 HMTC 方法通过以半监督方式对生成样本使用对比学习,将文本与标签嵌入拉近,从而处理对输出空间施加过度约束前提的问题。然而,样本生成倾向于引入噪声,因其忽略同批次中相似样本间的相关性。该问题的一个解决方案是监督对比学习,但由于其复杂的结构化标签,它在 HMTC 中仍属未充分探索的课题。为克服此挑战,我们提出 HJCL\textbf{HJCL},一种 H\textbf{H}ierarchy-aware J\textbf{J}oint Supervised C\textbf{C}ontrastive L\textbf{L}earning(层次感知联合监督对比学习)方法,弥合了监督对比学习与 HMTC 之间的鸿沟。具体而言,我们采用实例级与标签级对比学习技术,并精心构造批次以达成对比学习目标。在四个多路径 HMTC 数据集上的广泛实验表明,HJCL 取得了有前景的结果,并证明了对比学习在 HMTC 上的有效性。

关键词

引用

@article{arxiv.2310.05128,
  title  = {Instances and Labels: Hierarchy-aware Joint Supervised Contrastive Learning for Hierarchical Multi-Label Text Classification},
  author = {Simon Yu and Jie He and Víctor Gutiérrez-Basulto and Jeff Z. Pan},
  journal= {arXiv preprint arXiv:2310.05128},
  year   = {2024}
}

备注

18 pages; 10 figures. Published as a conference paper at EMNLP 2023 Findings (Long Paper). Code and data available at https://github.com/simonucl/HJCL