REDAffectiveLM:利用情感增强嵌入与基于 Transformer 的神经语言模型进行读者情感检测
计算与语言
2025-03-12 v1
摘要
Web 平台的技术进步使人们能够表达并分享针对他人撰写与共享的文本作品的情绪。这带来了不同的有趣分析领域:作者表达的情感与读者被引发的情绪。在本文中,我们提出一种利用名为 REDAffectiveLM 的深度学习模型从短文本文档中进行读者情感检测的新方法。在最先进的 NLP 任务中,利用基于 transformer 的预训练语言模型的上下文特定表示有助于提升性能已是共识。在该情感计算任务中,我们探究融入情感信息如何进一步增强性能。为此,我们通过将基于 transformer 的预训练语言模型与情感增强的 Bi-LSTM+Attention 结合使用,来利用上下文特定与情感增强的表示。为实证评估,我们除使用 RENh-4k 与 SemEval-2007 外,还获取了一个新数据集 REN-20k。我们在这些数据集上针对大量最先进基线严格评估了 REDAffectiveLM 的性能,我们的模型始终优于基线并取得统计显著结果。我们的结果证实,在神经架构中利用情感增强表示与上下文特定表示可显著增强读者情感检测。由于情感增强在读者情感检测中的影响尚未被充分探究,我们使用定性与定量模型行为评估技术对情感增强 Bi-LSTM+Attention 进行了详细分析。我们观察到,相比传统语义嵌入,情感增强嵌入提升了网络有效识别并赋予负责读者情感检测的关键词项权重的能力。
引用
@article{arxiv.2301.08995,
title = {REDAffectiveLM: Leveraging Affect Enriched Embedding and Transformer-based Neural Language Model for Readers' Emotion Detection},
author = {Anoop Kadan and Deepak P. and Manjary P. Gangan and Savitha Sam Abraham and Lajish V. L},
journal= {arXiv preprint arXiv:2301.08995},
year = {2025}
}