Wasserstein GAN的改进训练
机器学习
2017-12-27 v3 机器学习
摘要
生成对抗网络（GAN）是强大的生成模型，但存在训练不稳定的问题。最近提出的Wasserstein GAN（WGAN）在GAN的稳定训练方面取得了进展，但有时仍只能生成低质量样本或无法收敛。我们发现这些问题通常是由于在WGAN中使用权重裁剪来对判别器施加Lipschitz约束所致，这可能导致不良行为。我们提出了一种替代裁剪权重的方法：对判别器关于其输入的梯度范数进行惩罚。我们提出的方法优于标准WGAN，并能在几乎无需超参数调节的情况下，实现多种GAN架构的稳定训练，包括101层ResNets和离散数据上的语言模型。我们还在CIFAR-10和LSUN bedrooms上实现了高质量的生成。
引用
@article{arxiv.1704.00028,
title = {Improved Training of Wasserstein GANs},
author = {Ishaan Gulrajani and Faruk Ahmed and Martin Arjovsky and Vincent Dumoulin and Aaron Courville},
journal= {arXiv preprint arXiv:1704.00028},
year = {2017}
}
备注
NIPS camera-ready