ARAML:一种稳定的文本生成对抗训练框架
计算与语言
2019-08-21 v1 机器学习
摘要
现有大多数用于文本生成的生成对抗网络(GAN)受限于策略梯度等强化学习训练算法的不稳定性,导致性能不稳定。为解决该问题,我们提出一种称为对抗奖励增强最大似然(ARAML)的新框架。在对抗训练期间,判别器对从靠近数据的平稳分布而非生成器分布所获取的样例分配奖励。生成器以判别器奖励增强的最大似然估计而非策略梯度进行优化。实验表明,我们的模型能以更稳定的训练过程优于最先进的文本 GAN。
引用
@article{arxiv.1908.07195,
title = {ARAML: A Stable Adversarial Training Framework for Text Generation},
author = {Pei Ke and Fei Huang and Minlie Huang and Xiaoyan Zhu},
journal= {arXiv preprint arXiv:1908.07195},
year = {2019}
}
备注
Accepted by EMNLP 2019