面向神经对话生成的自适应参数化方法
计算与语言
2020-01-22 v1 信息检索
机器学习
摘要
神经对话系统基于序列到序列（SEQ2SEQ）范式生成回复。通常，模型配备单一组学习到的参数，针对给定输入上下文生成回复。当面对多样化对话时，其适应性相当有限，因而易于生成通用回复。在本工作中，我们提出一种自适应神经对话生成模型 \textsc{AdaND}，其通过对话特定的参数化来处理各类对话。对于每轮对话，模型通过参考输入上下文来生成编码器-解码器的参数。具体而言，我们提出两种自适应参数化机制：上下文感知与主题感知的参数化机制。上下文感知参数化通过捕获给定上下文的局部语义直接生成参数。主题感知参数化通过先推断给定上下文的潜在主题、再依据分布化主题生成参数，实现相似主题对话间的参数共享。在大规模真实对话数据集上开展的广泛实验表明，我们的模型在量化指标与人工评估两方面均取得优越性能。
引用
@article{arxiv.2001.06626,
title = {Adaptive Parameterization for Neural Dialogue Generation},
author = {Hengyi Cai and Hongshen Chen and Cheng Zhang and Yonghao Song and Xiaofang Zhao and Dawei Yin},
journal= {arXiv preprint arXiv:2001.06626},
year = {2020}
}
备注
Published as a long paper in EMNLP 2019