用乐观方法训练 GAN
机器学习
2018-02-14 v2 计算机科学与博弈论
机器学习
摘要
我们解决了生成对抗网络训练中的极限环行为问题，并提出使用乐观镜像下降（OMD）来训练 Wasserstein GAN（WGAN）。近期理论结果表明，在零和博弈背景下，乐观镜像下降（OMD）可享有更快的遗憾率。WGAN 正是通过同步无遗憾动态求解零和博弈的一种情形。此外，我们表明乐观镜像下降解决了 WGAN 训练中的极限环问题。我们正式证明，在双线性零和博弈情形下，OMD 动态的最后迭代收敛到均衡，而 GD 动态必然循环。我们还通过玩具示例刻画了 GD 与 OMD 动态之间的巨大定性差异，即使 GD 被近期文献中提出的许多改进（如梯度惩罚或动量）所修改。我们将 OMD WGAN 训练应用于生成 DNA 序列的生物信息学问题。我们观察到，与用 GD 变体训练的模型相比，用 OMD 训练的模型相对于真实底层分布实现了持续更小的 KL 散度。最后，我们引入了一种新算法 Optimistic Adam，它是 Adam 的乐观变体。我们将其应用于 CIFAR10 上的 WGAN 训练，并观察到与 Adam 相比在 inception score 方面有所提升。
引用
@article{arxiv.1711.00141,
title = {Training GANs with Optimism},
author = {Constantinos Daskalakis and Andrew Ilyas and Vasilis Syrgkanis and Haoyang Zeng},
journal= {arXiv preprint arXiv:1711.00141},
year = {2018}
}