最大似然增强离散生成对抗网络
人工智能
2017-02-28 v1 计算与语言
机器学习
摘要
尽管生成对抗网络（GAN）在捕获连续分布方面取得了成功，但其在自然语言处理等离散场景下的应用却受到很大限制。其根本原因在于离散随机变量反向传播的困难与 GAN 训练目标固有的不稳定性相结合。为了解决这些问题，我们提出了最大似然增强离散生成对抗网络。我们并非直接优化 GAN 目标，而是利用判别器的输出推导出一个对应于对数似然的全新低方差目标。理论上证明了新目标与原目标相比具有一致性，且在实践中是有益的。在各种离散数据集上的实验结果证明了所提方法的有效性。
引用
@article{arxiv.1702.07983,
title = {Maximum-Likelihood Augmented Discrete Generative Adversarial Networks},
author = {Tong Che and Yanran Li and Ruixiang Zhang and R Devon Hjelm and Wenjie Li and Yangqiu Song and Yoshua Bengio},
journal= {arXiv preprint arXiv:1702.07983},
year = {2017}
}
备注
11 pages, 3 figures