以上下文感知主题注意力增强神经响应生成
计算与语言
2019-06-05 v2
摘要
序列到序列（Seq2Seq）模型在生成自然对话交流方面取得了显著成功。尽管这些神经网络模型生成的响应句法良构，但它们往往缺乏上下文、简短且通用。本文中，我们引入主题分层循环编码解码器（THRED），一种新颖的、完全数据驱动的、多轮响应生成系统，旨在生成具上下文且主题感知的响应。我们的模型构建于基本 Seq2Seq 模型之上，通过加入一个分层联合注意力机制来增强它，该机制将主题概念与先前交互纳入响应生成。为训练模型，我们提供了从 Reddit 评论中挖掘的干净且高质量的对话数据集。我们使用两个新颖的自动化指标（称为语义相似度与响应回声指数）以及人工评估来评价 THRED。我们的实验表明，与强基线相比，所提模型能够生成更多样且上下文相关的响应。
引用
@article{arxiv.1811.01063,
title = {Augmenting Neural Response Generation with Context-Aware Topical Attention},
author = {Nouha Dziri and Ehsan Kamalloo and Kory W. Mathewson and Osmar Zaiane},
journal= {arXiv preprint arXiv:1811.01063},
year = {2019}
}
备注
Accepted at ACL 2019 Workshop on NLP for ConvAI (NLP4ConvAI). 8 pages + 4 appendix pages, 6 figures, 9 tables