基于局部上下文聚焦机制与DeBERTa的方面级情感分析
计算与语言
2022-07-08 v2 信息检索
摘要
文本情感分析,又称意见挖掘,是对人们由实体表达的观点、评价、态度和情感进行计算的研究。文本情感分析可分为文本级情感分析、句子级情感分析和方面级情感分析。方面级情感分析(ABSA)是情感分析领域中的一项细粒度任务,旨在预测方面的极性。预训练神经模型的研究已显著提升了许多自然语言处理任务的性能。近年来,预训练模型(PTM)已被应用于ABSA。因此,出现了一个问题,即PTM是否包含足以用于ABSA的句法信息。在本文中,我们探索了最近的DeBERTa模型(具有解耦注意力的解码增强BERT)来解决方面级情感分析问题。DeBERTa是一种基于transformer的神经语言模型,它使用自监督学习在大量原始文本语料上进行预训练。基于局部上下文聚焦(LCF)机制,通过整合DeBERTa模型,我们提出了一种用于方面级情感分析的多任务学习模型。在SemEval-2014最常用的笔记本电脑和餐厅数据集以及ACL推特数据集上的实验结果表明,结合DeBERTa的LCF机制有显著改进。
引用
@article{arxiv.2207.02424,
title = {Aspect-Based Sentiment Analysis using Local Context Focus Mechanism with DeBERTa},
author = {Tianyu Zhao and Junping Du and Zhe Xue and Ang Li and Zeli Guan},
journal= {arXiv preprint arXiv:2207.02424},
year = {2022}
}