全局思考,局部行动:基于远程监督的全局到局部知识选择用于背景对话
计算与语言
2019-11-22 v2 人工智能
摘要
背景对话(BBC)的提出旨在帮助对话系统避免生成过于通用的回复。在 BBC 中,对话基于某一知识源展开。BBC 中的一个关键挑战是知识选择(KS):给定对话上下文,试图找到合适的背景知识(包含相关事实或评论等的文本片段)以生成下一回复。已有工作通过注意力机制和/或指针机制处理 KS,这些机制采用局部视角,即仅基于当前解码状态每次选择一个词元。我们主张采用全局视角,即预先从背景知识中选出可能有助于确定下一回复主题的文本片段。我们通过引入全局到局部知识选择(GLKS)机制来增强 BBC 中的 KS。给定对话上下文与背景知识,我们首先学习一个主题转移向量以编码下一回复中最可能使用的文本片段,进而用于在每个解码时刻引导局部 KS。为有效学习主题转移向量,我们提出一种远程监督学习框架。实验结果表明,GLKS 模型在自动与人工评测上均显著优于当前最优方法。更重要的是,GLKS 无需任何额外标注即达成此效果,展现了其高度可扩展性。
引用
@article{arxiv.1908.09528,
title = {Thinking Globally, Acting Locally: Distantly Supervised Global-to-Local Knowledge Selection for Background Based Conversation},
author = {Pengjie Ren and Zhumin Chen and Christof Monz and Jun Ma and Maarten de Rijke},
journal= {arXiv preprint arXiv:1908.09528},
year = {2019}
}
备注
accepted by AAAI 2020