利用自分离条件变分自编码器生成相关且连贯的对话回复
计算与语言
2021-06-08 v1
摘要
条件变分自编码器(Conditional Variational AutoEncoder, CVAE)通过用采样的隐变量丰富上下文向量,有效提升了开放域对话生成任务中回复的多样性和信息量。然而,由于人类对话中固有的多对一与一对多现象,采样的隐变量可能无法正确反映上下文的语义,从而导致生成回复不相关且不连贯。为解决该问题,我们提出自分离条件变分自编码器(简称 SepaCVAE),其引入组信息对隐变量进行正则化,在保持回复多样性与信息量的同时,通过提升回复的相关性与连贯性来增强 CVAE。SepaCVAE 主动将输入数据划分为若干组,随后拉大不同组间数据对的绝对差异,同时缩小同组内数据对的相对距离。自动评估与详细分析的实证结果表明,SepaCVAE 能在成熟的开放域对话数据集上显著提升回复质量。
引用
@article{arxiv.2106.03410,
title = {Generating Relevant and Coherent Dialogue Responses using Self-separated Conditional Variational AutoEncoders},
author = {Bin Sun and Shaoxiong Feng and Yiwei Li and Jiamou Liu and Kan Li},
journal= {arXiv preprint arXiv:2106.03410},
year = {2021}
}