GAN-QP:一种无梯度消失与 Lipschitz 约束的新型 GAN 框架
机器学习
2018-12-18 v4 计算机视觉与模式识别
机器学习
摘要
我们知道 SGAN 可能存在梯度消失的风险。一项重要改进是 WGAN,其借助判别器上的 1-Lipschitz 约束来防止梯度消失。是否存在一种既无梯度消失又无判别器 1-Lipschitz 约束的 GAN?我们确实找到了一个,称为 GAN-QP。构建生成对抗网络(GAN)的新框架通常包括三步:1. 选择概率散度;2. 将其转换为对偶形式;3. 进行极小极大博弈。在本文中,我们证明第一步并非必要。我们可以直接在对偶空间中分析散度性质甚至构造新散度。作为回报,我们得到了 WGAN 的一个更简单的替代方案:GAN-QP。我们证明了 GAN-QP 在理论和实践上均优于 WGAN。
引用
@article{arxiv.1811.07296,
title = {GAN-QP: A Novel GAN Framework without Gradient Vanishing and Lipschitz Constraint},
author = {Jianlin Su},
journal= {arXiv preprint arXiv:1811.07296},
year = {2018}
}
备注
simplify some proofs; add reconstruction