基于模板先验的低资源回复生成
计算与语言
2020-01-01 v3 机器学习
摘要
我们研究在消息-回复对有限情况下的开放域回复生成。该问题存在于现实应用中,但现有工作较少探讨。由于配对数据现已不足以训练神经生成模型,我们考虑利用更易获取的大规模非配对数据,并提出结合配对与非配对数据的回复生成。生成模型由以模板为先验的编码器-解码器架构定义,其中模板作为神经隐半马尔可夫模型从非配对数据中估计得到。通过这种方式,从少量配对数据学习的回复生成可得到大规模非配对数据中语义与句法知识的辅助。为平衡先验与输入消息对回复生成的影响,我们提出以对抗方式学习整个生成模型。在问题回复生成与情感回复生成上的实证研究表明,当仅有少量配对可用时,我们的模型在自动与人工评估上均显著优于若干最先进的回复生成模型。
引用
@article{arxiv.1909.11968,
title = {Low-Resource Response Generation with Template Prior},
author = {Ze Yang and Wei Wu and Jian Yang and Can Xu and Zhoujun Li},
journal= {arXiv preprint arXiv:1909.11968},
year = {2020}
}
备注
Accepted by EMNLP2019