中文

基于带隐变量的生成对抗网络的文本生成

计算与语言 2018-11-08 v2

摘要

本文提出一种利用生成对抗网络(GAN)生成逼真文本的模型。我们未采用标准 GAN,而是将变分自编码器(VAE)与生成对抗网络结合。高层隐随机变量的使用有助于学习数据分布,并解决生成对抗网络总是生成相似数据的问题。我们提出 VGAN 模型,其生成模型由循环神经网络与 VAE 构成,判别模型为卷积神经网络。我们通过策略梯度训练该模型。我们将所提模型应用于文本生成任务,并与其它近期基于神经网络的模型(如循环神经网络语言模型与 SeqGAN)进行比较。我们通过计算负对数似然与 BLEU 分数评估模型性能。我们在三个基准数据集上开展实验,结果表明我们的模型优于其它已有模型。

关键词

引用

@article{arxiv.1712.00170,
  title  = {Text Generation Based on Generative Adversarial Nets with Latent Variable},
  author = {Heng Wang and Zengchang Qin and Tao Wan},
  journal= {arXiv preprint arXiv:1712.00170},
  year   = {2018}
}