基于注意力的神经网络利用远程监督进行情感态度抽取
计算与语言
2020-07-01 v2
摘要
在情感态度抽取任务中，目标是识别文本中提到的实体之间的“态度”——即情感关系。在本文中，我们对基于注意力的上下文编码器在情感态度抽取任务中的表现进行了研究。针对该任务，我们适配了两类注意力上下文编码器：（1）基于特征的；（2）基于自注意力的。在我们的研究中，我们利用俄语分析文本语料库 RuSentRel 和自动构建的新闻集 RuAttitudes 来扩充训练集。我们将态度抽取问题视为针对整篇文档的二类（正、负）和三类（正、负、中性）分类任务。使用 RuSentRel 语料库的实验表明，采用 RuAttitudes 语料库训练的三类分类模型，在包含注意力机制的模型架构下，F1 值提升了 10% 并额外提升 3%。我们还提供了注意力权重分布依赖于词项类型的分析。
引用
@article{arxiv.2006.13730,
title = {Attention-Based Neural Networks for Sentiment Attitude Extraction using Distant Supervision},
author = {Nicolay Rusnachenko and Natalia Loukachevitch},
journal= {arXiv preprint arXiv:2006.13730},
year = {2020}
}
备注
10 pages, 9 figures. The preprint of an article published in the proceedings of the 10th International Conference on Web Intelligence, Mining and Semantics (WIMS 2020). The final authenticated publication is available online at https://doi.org/10.1145/3405962.3405985. arXiv admin note: substantial text overlap with arXiv:2006.11605