基于示例增强与课程优化的多模态响应生成
计算与语言
2020-04-28 v1
摘要
近来，基于变分自编码器 (VAE) 的方法在提升生成响应的多样性方面取得了令人印象深刻的进展。然而，这些方法通常伴随着相关性下降的代价。本文提出一种新颖的具有示例增强和课程优化的多模态响应生成框架，以增强生成响应的相关性和多样性。首先，不同于现有通常近似简单高斯后验分布的 VAE 基模型，我们提出高斯混合后验分布（即多模态）以进一步提升响应多样性，这有助于捕捉响应的复杂语义。然后，为确保相关性不随多样性增加而下降，我们充分利用从训练数据中检索的相似示例（exemplars）进入后验分布建模以增强响应相关性。此外，为促进高斯混合先验与后验分布的收敛，我们设计了一种课程优化策略，在由易到难的多重训练准则下逐步训练模型。在广泛使用的 SwitchBoard 和 DailyDialog 数据集上的实验结果表明，我们的模型在多样性和相关性方面相比强基线取得了显著改进。
引用
@article{arxiv.2004.12429,
title = {Towards Multimodal Response Generation with Exemplar Augmentation and Curriculum Optimization},
author = {Zeyang Lei and Zekang Li and Jinchao Zhang and Fandong Meng and Yang Feng and Yujiu Yang and Cheng Niu and Jie Zhou},
journal= {arXiv preprint arXiv:2004.12429},
year = {2020}
}