弥合 $f$-GAN 与 Wasserstein GAN 之间的鸿沟
机器学习
2020-06-19 v2 机器学习
摘要
生成对抗网络(GANs)在学习高维分布方面取得了巨大成功。其学习目标利用判别器近似最小化模型分布与数据分布之间的 -散度(-GANs)或积分概率度量(Wasserstein GANs)。Wasserstein GANs 具有优异的经验性能,但在 -GANs 中判别器可解释为密度比估计器,这在某些 GAN 应用中是必要的。本文弥合了 -GANs 与 Wasserstein GANs(WGANs)之间的鸿沟。首先,我们列出了保持最优解的变分 -散度估计目标上的两个约束。接着,我们在该约束目标的拉格朗日松弛上最小化,并证明其推广了 -GAN 与 WGAN 的判别器(critic)目标。基于此推广,我们提出了一种新颖的实用目标,称为 KL-Wasserstein GAN(KL-WGAN)。我们在合成数据集和真实世界图像生成基准上展示了 KL-WGAN 的经验成功,并在 CIFAR10 图像生成上取得了最先进的 FID 分数。
引用
@article{arxiv.1910.09779,
title = {Bridging the Gap Between $f$-GANs and Wasserstein GANs},
author = {Jiaming Song and Stefano Ermon},
journal= {arXiv preprint arXiv:1910.09779},
year = {2020}
}
备注
updated for ICML camera ready version