面向 GAN 中 Lipschitz 连续性的高效无偏实现
机器学习
2019-04-03 v1 机器学习
摘要
Lipschitz 连续性近期在生成对抗网络(GANs)中变得流行。据观察,Lipschitz 正则化判别器可带来改进的训练稳定性和样本质量。Lipschitz 连续性的主流实现包括梯度惩罚和谱归一化。在本文中,我们证明梯度惩罚引入了不期望的偏差,而谱归一化可能过于受限。我们相应地提出了一种高效且无偏的新方法。我们的实验验证了我们的分析,并表明所提方法能够在梯度惩罚和谱归一化失效的多种情况下实现成功训练。
引用
@article{arxiv.1904.01184,
title = {Towards Efficient and Unbiased Implementation of Lipschitz Continuity in GANs},
author = {Zhiming Zhou and Jian Shen and Yuxuan Song and Weinan Zhang and Yong Yu},
journal= {arXiv preprint arXiv:1904.01184},
year = {2019}
}
备注
Submitted to IJCAI 2019