ReGAN:基于 RE[LAX|BAR|INFORCE] 的 GAN 序列生成
机器学习
2018-05-09 v1 机器学习
摘要
生成对抗网络(GAN)近年来在机器学习研究浪潮中急剧攀升至顶峰。主要受其图像生成领域成功的推动,该技术已在多种其他问题领域被广泛采用。尽管 GAN 在生成比其他方法更逼真的图像方面取得了许多成功,但它们在文本序列上的应用有限。较长序列的生成使这一问题更加严重。最近,SeqGAN(Yu 等人,2017)在对抗评估和人工评估结果上相比基于 MLE 训练的基线有所改进。本文的主要贡献有三方面:1. 我们展示了使用具有高效策略梯度估计器的 GAN 架构进行序列生成的结果;2. 我们获得了改进的训练稳定性;3. 我们对近期无偏低方差梯度估计技术(如 REBAR(Tucker 等人,2017)、RELAX(Grathwohl 等人,2018)和 REINFORCE(Williams,1992))进行了比较研究。通过在具有不同长度的合成数据集上使用简单语法,我们展示了模型所生成序列的质量。
引用
@article{arxiv.1805.02788,
title = {ReGAN: RE[LAX|BAR|INFORCE] based Sequence Generation using GANs},
author = {Aparna Balagopalan and Satya Gorti and Mathieu Ravaut and Raeid Saqur},
journal= {arXiv preprint arXiv:1805.02788},
year = {2018}
}