判别器对比散度：通过探索判别器能量进行半摊销生成式建模
机器学习
2020-04-07 v1 计算机视觉与模式识别
机器学习
摘要
生成对抗网络（GAN）在高维数据建模方面展现出了巨大潜力。GAN 的学习目标通常最小化某种度量差异，例如 -散度（-GAN）或积分概率度量（Wasserstein GAN）。以 -散度作为目标函数时，判别器本质上估计的是密度比，并且该估计的比值被证明在进一步改善生成器的样本质量方面是有用的。然而，如何利用 Wasserstein GAN（WGAN）判别器中包含的信息则较少被探讨。在本文中，我们引入了判别器对比散度，该方法受到 WGAN 判别器的性质以及 WGAN 与基于能量的模型之间关系的充分启发。与直接利用生成器获取新样本的标准 GAN 不同，我们的方法提出了一种半摊销生成程序，其中以生成器的输出作为初始状态来产生样本。然后，利用判别器的梯度进行若干步 Langevin 动力学操作。我们在合成数据和几个真实世界图像生成基准上证明了显著改善的生成效果的优势。
引用
@article{arxiv.2004.01704,
title = {Discriminator Contrastive Divergence: Semi-Amortized Generative Modeling by Exploring Energy of the Discriminator},
author = {Yuxuan Song and Qiwei Ye and Minkai Xu and Tie-Yan Liu},
journal= {arXiv preprint arXiv:2004.01704},
year = {2020}
}
备注
17 pages, 9 figures, pre-submmited to cvpr2019