GAN 可能不存在纳什均衡

生成对抗网络（GAN）表示生成器与判别器两个机器玩家之间的零和博弈，旨在学习数据分布。尽管 GAN 在若干基准学习任务中取得了最先进的性能，其极小极大优化仍带来巨大的理论与实证挑战。使用一阶优化方法训练的 GAN 通常无法收敛到玩家无法改进自身目标的稳定解，即底层博弈的纳什均衡。此类问题引发了 GAN 零和博弈中纳什均衡解是否存在之疑问。本工作中，我们通过若干理论与数值结果表明，GAN 零和博弈确实可能不存在任何局部纳什均衡。为刻画适用于 GAN 的均衡概念，我们考虑一个新零和博弈的均衡，其目标函数由作用于原目标的近端算子给出，我们称该解为近端均衡。与纳什均衡不同，近端均衡捕捉了 GAN 的序贯本质，即生成器先动、判别器后动。我们证明 Wasserstein GAN 问题中的最优生成模型提供了一个近端均衡。受这些结果启发，我们提出一种称为近端训练的新方法来求解 GAN 问题。我们讨论了若干数值实验，展示了 GAN 极小极大问题中近端均衡解的存在性。