CONTRASTE：基于方面提示的监督对比预训练用于方面情感三元组抽取
计算与语言
2023-10-25 v1 人工智能
摘要
现有关于方面情感三元组抽取（ASTE）的工作明确聚焦于为该任务开发更高效的微调技术。相反，我们的动机是提出一种通用方法，能够同时提升多个 ABSA 任务的下游性能。为此，我们提出 CONTRASTE，一种利用对比学习（CONTRastive learning）来增强 ASTE 性能的新型预训练策略。虽然我们主要关注 ASTE，但也在 ACOS、TASD 和 AESC 等其他 ABSA 任务上展示了所提技术的优势。给定句子及其关联的（方面、观点、情感）三元组，我们首先设计具有对应情感被掩码的基于方面的提示。然后，通过对解码器生成的被掩码项的方面感知情感表示应用对比学习，来（预）训练一个编码器-解码器模型。为微调由此获得的模型权重，我们进一步提出一种新颖的多任务方法，将基础编码器-解码器模型与两个互补模块相结合：一个基于标注的观点词检测器和一个基于回归的三元组数量估计器。在四个基准数据集上的详尽实验以及详细的消融研究确立了我们所提各组件的重要性，同时我们取得了新的 SOTA ASTE 结果。
引用
@article{arxiv.2310.15577,
title = {CONTRASTE: Supervised Contrastive Pre-training With Aspect-based Prompts For Aspect Sentiment Triplet Extraction},
author = {Rajdeep Mukherjee and Nithish Kannen and Saurabh Kumar Pandey and Pawan Goyal},
journal= {arXiv preprint arXiv:2310.15577},
year = {2023}
}
备注
Accepted as a Long Paper at EMNLP 2023 (Findings); 16 pages; Codes: https://github.com/nitkannen/CONTRASTE/