生成对抗网络作为基于能量模型的变分训练
机器学习
2016-11-08 v1
摘要
在本文中，我们研究用于有效无监督学习的深度生成模型。我们提出 VGAN，其通过最小化基于能量的模型 (EBM) 的负对数似然 (NLL) 的变分下界来工作，其中模型密度 由易于采样的变分分布 近似。VGAN 的训练采取两步过程：给定 ，更新 以最大化下界；然后利用从 抽取的样本更新 一步以减小下界。VGAN 受生成对抗网络 (GANs) 启发，其中 对应于判别器， 对应于生成器，但存在一些显著差异。因此我们命名我们的模型为变分 GANs (VGANs)。VGAN 通过消除对 MCMC 采样的需求，为在高维空间中训练深度 EBMs 提供了实用解决方案。从这一视角，我们也能够识别训练 GANs 困难的原因并提出可行的解决方案。\footnote{实验代码见 https://github.com/Shuangfei/vgan}
引用
@article{arxiv.1611.01799,
title = {Generative Adversarial Networks as Variational Training of Energy Based Models},
author = {Shuangfei Zhai and Yu Cheng and Rogerio Feris and Zhongfei Zhang},
journal= {arXiv preprint arXiv:1611.01799},
year = {2016}
}
备注
Under review at ICLR 2017