NTUA-SLP 在 SemEval-2018 任务 1:使用深度注意力 RNN 和迁移学习预测推文中的情感内容
计算与语言
2018-04-19 v1
摘要
在本文中,我们提出了提交给 SemEval-2018 任务 1 竞赛“推文中的情感”的深度学习模型。我们参加了英语推文的所有子任务。我们提出了一种配备多层自注意力机制的 Bi-LSTM 架构。注意力机制提高了模型性能,并使我们能够识别推文中的显著词,以及深入了解模型使其更具可解释性。我们的模型利用一组在 5.5 亿条 Twitter 消息的大规模语料库上训练的 word2vec 词嵌入,并辅以一组词情感特征。由于任务特定训练数据数量有限,我们选择采用迁移学习方法,在 Semeval 2017 任务 4A 的数据集上预训练 Bi-LSTM。所提出的方法在子任务 E“多标签情感分类”中排名第 1,在子任务 A“情感强度回归”中排名第 2,并在其他子任务中取得了有竞争力的结果。
引用
@article{arxiv.1804.06658,
title = {NTUA-SLP at SemEval-2018 Task 1: Predicting Affective Content in Tweets with Deep Attentive RNNs and Transfer Learning},
author = {Christos Baziotis and Nikos Athanasiou and Alexandra Chronopoulou and Athanasia Kolovou and Georgios Paraskevopoulos and Nikolaos Ellinas and Shrikanth Narayanan and Alexandros Potamianos},
journal= {arXiv preprint arXiv:1804.06658},
year = {2018}
}
备注
Semeval 2018, Task 1 "Affect in Tweets"