基于Gumbel-softmax分布的离散元素序列生成对抗网络(GAN)
机器学习
2016-11-16 v1 机器学习
摘要
生成对抗网络(Generative Adversarial Networks, GAN)在生成离散元素序列时存在局限。原因在于，对离散对象（如多项分布）上的分布进行采样，关于分布参数是不可微的。该问题可通过使用Gumbel-softmax分布来避免，该分布是以softmax函数参数化的多项分布的连续近似。本文中，我们基于带有Gumbel-softmax输出分布的循环神经网络GAN，在生成离散元素序列任务上评估其性能。
引用
@article{arxiv.1611.04051,
title = {GANS for Sequences of Discrete Elements with the Gumbel-softmax Distribution},
author = {Matt J. Kusner and José Miguel Hernández-Lobato},
journal= {arXiv preprint arXiv:1611.04051},
year = {2016}
}