论非凸非凹极小极大优化中 Adam 型算法的单侧收敛性

Adam 型方法作为自适应梯度方法的扩展，在有监督和无监督机器学习模型的训练中均展现出优异的性能。特别是 Adam 型优化器在经验上被广泛用作训练生成对抗网络（GAN）的默认工具。然而在理论方面，尽管已有理论结果表明 Adam 型方法在最小化问题中的有效性，其在 GAN 训练中性能优异的原因仍不清楚。在现有工作中，快速收敛一直被认为是最重要的原因之一，并且已有多项工作在特定假设下为极小极大优化算法收敛到临界点提供了理论保证。在本文中，我们首先通过实验论证，在 GAN 训练中，即使训练成功，Adam 也未收敛到临界点：只有生成器在收敛，而判别器的梯度范数在整个训练过程中始终保持较高值。我们将此称为单侧收敛。然后，我们通过证明在单侧 MVI 条件下 Adam 型算法可证明收敛到极小极大优化问题的单侧一阶驻点，弥合了实验与理论之间的差距。我们还通过实验验证了标准 GAN 在标准数据集上训练后满足该单侧 MVI 条件。据我们所知，这是首个为极小极大优化中 Adam 型算法的单侧收敛提供经验观察和严格理论保证的结果。