生成对抗网络的梯度归一化
机器学习
2021-10-12 v2
摘要
在本文中，我们提出一种称为梯度归一化（GN）的新归一化方法，以解决由尖锐梯度空间引起的生成对抗网络（GANs）训练不稳定问题。与梯度惩罚和谱归一化等已有工作不同，所提出的 GN 仅对判别器函数施加硬性 1-Lipschitz 约束，从而提升了判别器的容量。此外，所提出的梯度归一化只需少量修改即可应用于不同的 GAN 架构。在四个数据集上的广泛实验表明，采用梯度归一化训练的 GAN 在 Frechet Inception Distance 和 Inception Score 方面均优于现有方法。
引用
@article{arxiv.2109.02235,
title = {Gradient Normalization for Generative Adversarial Networks},
author = {Yi-Lun Wu and Hong-Han Shuai and Zhi-Rui Tam and Hong-Yu Chiu},
journal= {arXiv preprint arXiv:2109.02235},
year = {2021}
}
备注
Published as a conference paper at ICCV 2021