基于损失变化率平衡的加速 WGAN 更新策略
计算机视觉与模式识别
2020-11-04 v2 机器学习
图像与视频处理
摘要
在生成对抗网络 (GAN) 的内部训练循环中将判别器优化至完成状态在计算上是不可行的，并且在有限数据集上会导致过拟合。为了解决这个问题，一种常见的更新策略是在判别器 D 的 k 个优化步骤和生成器 G 的一个优化步骤之间交替进行。这种策略在各种 GAN 算法中重复使用，其中 k 是凭经验选择的。在本文中，我们表明这种更新策略在准确性和收敛速度方面并非最优，并提出了一种针对 Wasserstein GAN (WGAN) 及其他使用 WGAN 损失（例如 WGAN-GP、Deblur GAN 和 Super-resolution GAN）的 GAN 的新更新策略。所提出的更新策略基于 G 和 D 的损失变化率比较。我们证明，所提出的策略提高了收敛速度和准确性。
引用
@article{arxiv.2008.12463,
title = {Accelerated WGAN update strategy with loss change rate balancing},
author = {Xu Ouyang and Gady Agam},
journal= {arXiv preprint arXiv:2008.12463},
year = {2020}
}