生成对抗网络的数值分析
机器学习
2018-06-12 v3
摘要
本文分析了训练生成对抗网络（GANs）常用算法的数值特性。借助光滑双人博弈的形式化框架，我们分析了GAN训练目标所关联的梯度向量场。我们的发现表明，当前算法的收敛性受两个因素影响：i) 梯度向量场雅可比矩阵存在实部为零的特征值，以及 ii) 存在虚部较大的特征值。基于这些发现，我们设计了一种新算法，克服了其中部分局限性，并具有更好的收敛性质。实验上，我们证明了该算法在训练常见GAN架构上的优越性，并展示了在那些公认极难训练的GAN架构上的收敛性。
引用
@article{arxiv.1705.10461,
title = {The Numerics of GANs},
author = {Lars Mescheder and Sebastian Nowozin and Andreas Geiger},
journal= {arXiv preprint arXiv:1705.10461},
year = {2018}
}