面向隐式话语关系识别的受限多层对比学习
计算与语言
2024-09-24 v1
摘要
以往的方法通常将隐式话语关系识别（IDRR）视为分类任务。即便采用BERT和RoBERTa等预训练语言模型，IDRR仍依赖复杂的神经网络，包含多个中间层以充分捕捉两个话语单位之间的相互作用。结果是，这些中间层的输出在区分不同类别实例方面能力各异。为此，我们提出采用监督对比学习（CL）方法，即标签驱动和实例驱动的对比学习，以增强表征学习。此外，我们提出一种新颖的受限多层对比学习方法，约束更高层的对比损失小于更低层的对比损失。在PDTB 2.0和PDTB 3.0数据集上的实验结果表明，我们的方法在多类分类和二类分类任务上均显著提升了性能。
引用
@article{arxiv.2409.13716,
title = {Constrained Multi-Layer Contrastive Learning for Implicit Discourse Relationship Recognition},
author = {Yiheng Wu and Junhui Li and Muhua Zhu},
journal= {arXiv preprint arXiv:2409.13716},
year = {2024}
}