Lipschitz 生成对抗网络
机器学习
2019-06-25 v4 计算机视觉与模式识别
机器学习
摘要
本文从最优判别函数梯度的信息性角度研究生成对抗网络（GANs）的收敛性。我们表明，不对判别函数空间加以限制的 GAN 普遍受制于判别器所产生的梯度无法为生成器提供有效指导的问题。相比之下，将判别函数限制为 1-Lipschitz 的 Wasserstein GAN（WGAN）则不存在此类梯度无信息性问题。我们进一步指出，采用放宽 Lipschitz 条件的 Wasserstein 距离紧对偶形式的模型，在理论上也可能受此问题困扰。这意味着 Lipschitz 条件的重要性，并促使我们研究带 Lipschitz 约束的 GAN 一般形式，由此得到一类我们称之为 Lipschitz GANs（LGANs）的新 GAN。我们证明 LGANs 保证最优判别函数的存在唯一性，以及唯一纳什均衡的存在性。我们证明 LGANs 通常能够消除梯度无信息性问题。根据我们的实证分析，与 WGAN 相比，LGANs 更稳定且生成质量一致更高的样本。
引用
@article{arxiv.1902.05687,
title = {Lipschitz Generative Adversarial Nets},
author = {Zhiming Zhou and Jiadong Liang and Yuxuan Song and Lantao Yu and Hongwei Wang and Weinan Zhang and Yong Yu and Zhihua Zhang},
journal= {arXiv preprint arXiv:1902.05687},
year = {2019}
}
备注
Published as a conference paper at ICML 2019