通过多任务学习将联合嵌入整合进面向任务的对话系统

基于注意力的编码器-解码器神经网络模型近期在面向任务的对话系统中展现出有前景的结果。然而，这些模型难以对含状态的知识的进行推理与整合，同时保留其端到端文本生成功能。由于此类模型可极大受益于用户意图与知识图谱的整合，本文提出一种基于RNN的端到端编码器-解码器架构，其以知识图谱与语料的联合嵌入作为输入进行训练。该模型在文本生成之外额外整合了用户意图，以多任务学习范式训练，并辅以额外的正则化技术以惩罚生成错误实体作为输出。模型在推理阶段进一步引入知识图谱实体查找，以基于所提供的局部知识图谱保证生成输出具有状态性。我们最终使用BLEU分数对模型进行评估，实证评估表明我们所提架构有助于提升任务导向对话系统的性能。