基于深度变分GAN的文本生成
机器学习
2021-04-29 v1 人工智能
计算与语言
摘要
生成逼真的序列是许多机器学习应用中的核心任务。近期在构建用于序列生成任务的深度生成模型方面取得了显著进展。然而,模式坍塌问题仍是当前模型的主要缺陷。在本文中,我们提出一个基于GAN的通用框架,以原则性方法解决模式坍塌问题。我们将标准GAN目标改为最大化对数似然的变分下界,同时最小化数据与模型分布间的Jensen-Shanon散度。我们在文本生成任务上实验了我们的模型,并表明其能生成具有高多样性的逼真文本。
引用
@article{arxiv.2104.13488,
title = {Text Generation with Deep Variational GAN},
author = {Mahmoud Hossam and Trung Le and Michael Papasimeon and Viet Huynh and Dinh Phung},
journal= {arXiv preprint arXiv:2104.13488},
year = {2021}
}
备注
Accepted in the Third Workshop on Bayesian Deep Learning (NIPS / NeurIPS 2018)