基于变分梯度流的概率空间深度生成学习
机器学习
2019-05-07 v3 机器学习
摘要
我们提出了一个在概率空间上通过变分梯度流(Variational Gradient Flow, VGrow)学习深度生成模型的通用框架。渐近收敛于目标分布的演化分布由一个向量场控制，该向量场是它们之间-散度的第一变分的负梯度。我们证明演化分布与通过沿向量场的恒等映射扰动的残差映射的无穷小时间复合的推前分布一致。该向量场依赖于推前分布与目标分布的密度比，这可以通过一个二分类问题一致地学习得到。我们在此框架中建立了所提出的VGrow方法与其他流行方法（如VAE、GAN和基于流的方法）的联系，从而获得对深度生成学习的新见解。我们还评估了几种常用的散度，包括Kullback-Leibler、Jensen-Shannon、Jeffrey散度以及我们新发现的`logD'散度，后者作为logD-trick GAN的目标函数。在基准数据集上的实验结果表明，VGrow能够以稳定且高效的方式生成高保真图像，取得与最先进GANs相竞争的性能。
引用
@article{arxiv.1901.08469,
title = {Deep Generative Learning via Variational Gradient Flow},
author = {Yuan Gao and Yuling Jiao and Yang Wang and Yao Wang and Can Yang and Shunkang Zhang},
journal= {arXiv preprint arXiv:1901.08469},
year = {2019}
}