面向任务型对话响应生成的回顾与前瞻混合生成器
计算与语言
2020-02-20 v2 人工智能
信息检索
摘要
对话响应生成(DRG)是任务型对话系统(TDSs)的关键组件,旨在给定上下文(如历史话语、系统状态等)生成恰当的自然语言响应。前沿工作聚焦于如何以端到端方式更好地处理 DRG。此类研究通常假设每个词元从输出词表上的单一分布抽取,这未必最优。响应随不同意图(如领域、系统动作)差异很大。我们提出一种新颖的混合生成器网络(MoGNet)用于 DRG,假设响应的每个词元从混合分布抽取。MoGNet 由一个主席生成器与若干专家生成器组成,每位专家专用于特定意图的 DRG,主席协调多专家并融合其生成输出来产生更恰当响应。我们提出两种策略助主席决策:回顾式混合生成器(RMoG)与前瞻式混合生成器(PMoG)。前者仅考虑截至当前时刻的专家历史生成响应,后者通过鼓励探索还考虑未来可能的专家生成响应。为区分专家,我们设计全局—局部(GL)学习机制:用局部损失迫使各专家专用于特定意图,用全局损失训练主席与所有专家协调。我们在 MultiWOZ 基准数据集上开展充分实验,MoGNet 在自动与人工评价上均显著优于 SOTA 方法,证明其对 DRG 的有效性。
引用
@article{arxiv.1911.08151,
title = {Retrospective and Prospective Mixture-of-Generators for Task-oriented Dialogue Response Generation},
author = {Jiahuan Pei and Pengjie Ren and Christof Monz and Maarten de Rijke},
journal= {arXiv preprint arXiv:1911.08151},
year = {2020}
}
备注
The paper is accepted by 24th European Conference on Artificial Intelligence