一种逃离 GAN 训练极限环的方法
机器学习
2023-08-14 v3 机器学习
最优化与控制
摘要
本文主要通过所提出的预测向心加速算法（PCAA）开展进一步研究，以缓解生成对抗网络（GANs）训练中的极限环行为问题。具体而言，我们首先推导了 PCAA 在一般双线性博弈中末次迭代收敛速率的上界与下界，其中上界显著优于先前结果。然后，我们将 PCAA 与自适应矩估计算法（Adam）结合，提出 PCAA-Adam，一种用于训练 GANs 的实用方法。最后，我们通过在双线性博弈、多元高斯分布和 CelebA 数据集上分别进行的实验验证了所提算法的有效性。
引用
@article{arxiv.2010.03322,
title = {A method for escaping limit cycles in training GANs},
author = {Li Keke and Yang Xinmin},
journal= {arXiv preprint arXiv:2010.03322},
year = {2023}
}