DeepCopy:基于层次化指针网络的 grounded 回复生成
计算与语言
2019-08-29 v1 人工智能
机器学习
摘要
神经序列到序列模型近来的进展在若干基于语言生成的任务上取得了有前景的结果,包括对话回复生成、摘要与机器翻译。然而,已知这些模型存在若干问题,尤其在闲聊式对话系统的语境中:它们倾向于生成简短而枯燥、往往过于通用的回复。此外,这些模型未将对话回复立足于知识与事实,导致轮次对用户而言不准确、无信息量且不具吸引力。本文中,我们提出并实验了一系列回复生成模型,旨在服务于如下一般场景:除对话上下文外,还假定有以文本形式的相关非结构化外部知识可供模型利用。我们提出的方法扩展了指针—生成器网络(See et al., 2017),允许解码器层次化地注意力并从外部知识及对话上下文中拷贝。我们通过自动评价指标与在 CONVAI2 数据集上的人工评价,实证展示了所提模型相较若干基线(包括 Ghazvininejad et al., 2018; Zhang et al., 2018)的有效性。
引用
@article{arxiv.1908.10731,
title = {DeepCopy: Grounded Response Generation with Hierarchical Pointer Networks},
author = {Semih Yavuz and Abhinav Rastogi and Guan-Lin Chao and Dilek Hakkani-Tur},
journal= {arXiv preprint arXiv:1908.10731},
year = {2019}
}