用于对话回复生成的条件变换变分自编码器
计算与语言
2019-04-25 v1 人工智能
摘要
本文提出一种称为条件变换变分自编码器(CTVAE)的新模型,以利用条件变分自编码器(CVAEs)提升对话回复生成的性能。在常规 CVAEs 中,潜变量 z 的先验分布服从均值和方差由输入条件调制的高斯多元分布。先前工作发现该分布在实际应用中趋于与条件无关。在我们提出的 CTVAE 模型中,潜变量 z 通过对输入条件与来自条件无关先验分布 N(0; I) 的样本之组合执行非线性变换来采样。在客观评价中,CTVAE 模型在流畅度指标上优于 CVAE 模型,并在多样性指标上超越序列到序列(Seq2Seq)模型。在主观偏好测试中,我们提出的 CTVAE 模型在生成流畅、信息丰富且话题相关回复方面显著优于 CVAE 和 Seq2Seq 模型。
引用
@article{arxiv.1904.10610,
title = {Condition-Transforming Variational AutoEncoder for Conversation Response Generation},
author = {Yu-Ping Ruan and Zhen-Hua Ling and Quan Liu and Zhigang Chen and Nitin Indurkhya},
journal= {arXiv preprint arXiv:1904.10610},
year = {2019}
}
备注
ICASSP 2019, oral