中文

ReGAN:基于 RE[LAX|BAR|INFORCE] 的 GAN 序列生成

机器学习 2018-05-09 v1 机器学习

摘要

生成对抗网络(GAN)近年来在机器学习研究浪潮中急剧攀升至顶峰。主要受其图像生成领域成功的推动,该技术已在多种其他问题领域被广泛采用。尽管 GAN 在生成比其他方法更逼真的图像方面取得了许多成功,但它们在文本序列上的应用有限。较长序列的生成使这一问题更加严重。最近,SeqGAN(Yu 等人,2017)在对抗评估和人工评估结果上相比基于 MLE 训练的基线有所改进。本文的主要贡献有三方面:1. 我们展示了使用具有高效策略梯度估计器的 GAN 架构进行序列生成的结果;2. 我们获得了改进的训练稳定性;3. 我们对近期无偏低方差梯度估计技术(如 REBAR(Tucker 等人,2017)、RELAX(Grathwohl 等人,2018)和 REINFORCE(Williams,1992))进行了比较研究。通过在具有不同长度的合成数据集上使用简单语法,我们展示了模型所生成序列的质量。

关键词

引用

@article{arxiv.1805.02788,
  title  = {ReGAN: RE[LAX|BAR|INFORCE] based Sequence Generation using GANs},
  author = {Aparna Balagopalan and Satya Gorti and Mathieu Ravaut and Raeid Saqur},
  journal= {arXiv preprint arXiv:1805.02788},
  year   = {2018}
}