无需强化学习的对抗性文本生成
计算与语言
2019-01-03 v2 机器学习
机器学习
摘要
生成对抗网络(GANs)近期人气激增,在包括计算机视觉在内的多种任务中表现具竞争力。然而,GAN 训练在自然语言处理中成功有限,这主要因为文本序列是离散的,梯度无法从判别器传播至生成器。近期解决方案使用强化学习将近似梯度传播给生成器,但训练效率低。我们提出利用自编码器学习句子的低维表示,随后训练 GAN 在该空间中生成自有向量,并解码为逼真语句。我们给出了生成器的随机与插值样本。句子向量可视化表明我们的模型正确学习了自编码器的潜空间。人工评分与 BLEU 分数均显示,我们的模型能生成媲美竞争基线的逼真文本。
引用
@article{arxiv.1810.06640,
title = {Adversarial Text Generation Without Reinforcement Learning},
author = {David Donahue and Anna Rumshisky},
journal= {arXiv preprint arXiv:1810.06640},
year = {2019}
}
备注
Four pages without references. ACL latex style. Four figures