一种具有偏置注意力与加权交叉熵损失的情感丰富神经对话模型
计算与语言
2018-11-20 v1 人工智能
机器学习
摘要
情感在人类交流中传递重要的隐含信息。在人机对话中具备正确表达情感的能力是人工智能的主要里程碑之一。近年来，关于开放域神经对话模型的研究广泛开展。然而，将情感嵌入此类模型仍探索不足。本文提出一种端到端的情感丰富开放域神经对话模型，其生成的回复不仅在句法和语义上恰当，而且具有丰富的情感。我们的模型扩展了Seq2Seq模型，并采用VAD（效价、唤醒和支配）情感标注将每个词嵌入情感。此外，我们的模型通过一种新颖的情感注意力机制考虑否定词和强调词的影响，该机制将注意力偏置到输入句子中富含情感的词。最后，我们使用融入情感的目标函数训练模型，以鼓励在输出回复中生成富含情感的词。基于困惑度以及人工评估的评价表明，我们的模型在生成自然且富含情感的回复方面优于规模相当的最先进基线模型。
引用
@article{arxiv.1811.07078,
title = {An Affect-Rich Neural Conversational Model with Biased Attention and Weighted Cross-Entropy Loss},
author = {Peixiang Zhong and Di Wang and Chunyan Miao},
journal= {arXiv preprint arXiv:1811.07078},
year = {2018}
}
备注
AAAI-19