NEXUS网络:在对话生成中连接前文与后文
计算与语言
2018-10-09 v2 人工智能
摘要
Sequence-to-Sequence (seq2seq) 模型在构建端到端可训练的对话系统中已变得极为流行。尽管其在学习人机交流主干方面高效,但它们存在严重偏向简短通用回复的问题。在本文中,我们认为好的回复应当平滑地连接先前的对话历史与后续的对话。我们通过互信息最大化来加强这种连接。为规避离散自然语言词元的不可微性,我们引入一个辅助连续码空间,并将该码空间映射为可用于生成的可学习先验分布。在两个对话数据集上的实验验证了我们模型的有效性,其中生成的回复与对话上下文紧密相关,并带来更具交互性的对话。
引用
@article{arxiv.1810.00671,
title = {NEXUS Network: Connecting the Preceding and the Following in Dialogue Generation},
author = {Hui Su and Xiaoyu Shen and Wenjie Li and Dietrich Klakow},
journal= {arXiv preprint arXiv:1810.00671},
year = {2018}
}
备注
Accepted by EMNLP2018