用于生成对抗网络稳定训练的淹没正则化

生成对抗网络（GANs）在图像生成中展现出卓越性能。然而，GAN 训练存在不稳定问题。解决该问题的主要方法之一是修改损失函数，通常是在改变对抗损失类型之外使用正则化项。本文聚焦于直接正则化对抗损失函数。我们提出一种将监督学习中过拟合抑制方法——淹没（flooding）应用于 GANs 的方法，以直接防止判别器损失降得过低。淹没需调参淹没水平，但应用于 GANs 时，我们提出合适的淹没水平设置范围由对抗损失函数决定，该结论得到使用二元交叉熵损失的 GANs 理论分析支持。我们通过实验验证淹没可稳定 GAN 训练，且可与其他稳定技术结合。我们还表明，通过将判别器损失限制为不低于淹没水平，即便淹没水平偏高，训练也能稳定进行。