实例与标签:面向层次多标签文本分类的层次感知联合监督对比学习
计算与语言
2024-06-21 v3 人工智能
机器学习
摘要
层次多标签文本分类(HMTC)旨在多标签分类中利用标签层次结构。近期 HMTC 方法通过以半监督方式对生成样本使用对比学习,将文本与标签嵌入拉近,从而处理对输出空间施加过度约束前提的问题。然而,样本生成倾向于引入噪声,因其忽略同批次中相似样本间的相关性。该问题的一个解决方案是监督对比学习,但由于其复杂的结构化标签,它在 HMTC 中仍属未充分探索的课题。为克服此挑战,我们提出 ,一种 ierarchy-aware oint Supervised ontrastive earning(层次感知联合监督对比学习)方法,弥合了监督对比学习与 HMTC 之间的鸿沟。具体而言,我们采用实例级与标签级对比学习技术,并精心构造批次以达成对比学习目标。在四个多路径 HMTC 数据集上的广泛实验表明,HJCL 取得了有前景的结果,并证明了对比学习在 HMTC 上的有效性。
引用
@article{arxiv.2310.05128,
title = {Instances and Labels: Hierarchy-aware Joint Supervised Contrastive Learning for Hierarchical Multi-Label Text Classification},
author = {Simon Yu and Jie He and Víctor Gutiérrez-Basulto and Jeff Z. Pan},
journal= {arXiv preprint arXiv:2310.05128},
year = {2024}
}
备注
18 pages; 10 figures. Published as a conference paper at EMNLP 2023 Findings (Long Paper). Code and data available at https://github.com/simonucl/HJCL