情感态度抽取任务中注意力模型的研究
计算与语言
2020-06-23 v1
摘要
在情感态度抽取任务中，目标是识别文本中提到的实体之间的“态度”——情感关系。本文针对情感态度抽取任务中的基于注意力的上下文编码器进行了研究。针对该任务，我们适配了两类注意力上下文编码器：（i）基于特征的；（ii）基于自注意力的。我们在俄罗斯分析文本语料库RuSentRel上的实验表明，使用注意力编码器训练的模型优于未使用注意力编码器训练的模型，F1提升了1.5-5.9%。我们还提供了注意力权重分布依赖于词项类型的分析。
引用
@article{arxiv.2006.11605,
title = {Studying Attention Models in Sentiment Attitude Extraction Task},
author = {Nicolay Rusnachenko and Natalia Loukachevitch},
journal= {arXiv preprint arXiv:2006.11605},
year = {2020}
}
备注
This is a preprint of an article published in the Proceedings of the 25th International Conference on Natural Language and Information Systems. The final authenticated publication is available online at https://doi.org/10.1007/978-3-030-51310-8_15