面向自然多轮对话的主题连贯响应生成多样化
计算与语言
2019-10-25 v1 人工智能
摘要
尽管单轮对话的响应生成（RG）多样化已得到充分研究，其在自然多轮对话中仍较少被探讨。此外，以往工作侧重于多样化响应而未考虑与上下文的主题连贯性，产生无信息的回复。本文提出主题连贯层次化循环编解码器模型（THRED），以在多轮对话中生成多样化的同时不偏离上下文主题。整体上，我们构建序列到序列网络（Seq2Seq）对多轮对话建模，并借助隐变量层次化循环编解码器模型（VHRED）学习对话的全局上下文分布。此外，我们构建稠密主题矩阵以隐含语料库中词级相关性，该矩阵用于学习上下文语句的局部主题分布。通过融合全局上下文分布与局部主题分布，THRED生成既多样化又主题连贯的回复。另外，我们提出显式度量（\emph{TopicDiv}）以衡量帖子与生成响应间的主题偏离，并提出了结合多样化度量（\emph{Distinct}）与\emph{TopicDiv}的总体度量。我们在两个真实语料库上将所提模型与三个基线（Seq2Seq、HRED与VHRED）比较评估，证明了其在多样化与主题连贯性上的优异表现。
引用
@article{arxiv.1910.11161,
title = {Diversifying Topic-Coherent Response Generation for Natural Multi-turn Conversations},
author = {Fei Hu and Wei Liu and Ajmal Saeed Mian and Li Li},
journal= {arXiv preprint arXiv:1910.11161},
year = {2019}
}