通过端到端反向传播训练具有二值神经元的生成对抗网络
机器学习
2018-10-12 v1 机器学习
摘要
我们提出 BinaryGAN，一种新颖的生成对抗网络（GAN），其在生成器输出层使用二值神经元。我们采用 sigmoid 调整的直通估计器来估计二值神经元的梯度，并通过端到端反向传播训练整个网络。所提模型能够在测试时直接生成二值预测。我们实现了这样一个模型来生成二值化的 MNIST 数字，并从实验上比较了不同类型二值神经元、GAN 目标函数和网络架构下的性能。尽管结果仍是初步的，我们表明训练具有二值神经元的 GAN 是可能的，且梯度估计器的使用可成为用 GAN 建模离散分布的一个有前景的方向。为可复现性，源代码见于 https://github.com/salu133445/binarygan 。
引用
@article{arxiv.1810.04714,
title = {Training Generative Adversarial Networks with Binary Neurons by End-to-end Backpropagation},
author = {Hao-Wen Dong and Yi-Hsuan Yang},
journal= {arXiv preprint arXiv:1810.04714},
year = {2018}
}