Fast-Slow Co-advancing Optimizer：面向GAN和谐对抗训练的新型优化器
机器学习
2025-04-22 v1 人工智能
摘要
迄今为止，典型生成对抗网络（GAN）的训练过程仍然对数据属性和超参数十分敏感，这可能导致严重的振荡、难以收敛，甚至无法收敛，尤其当训练数据的整体方差较大时。这些现象常被归因于此类网络的训练特征。为此，本文开发了一种新的智能优化器——Fast-Slow Co-advancing Optimizer（FSCO），其在GAN的训练过程中采用强化学习，以提升训练稳定性。具体而言，本文允许训练步长由智能体控制，以提高训练稳定性，并通过可变学习率使训练过程更加智能，使GAN对步长更不敏感。我们在三个基准数据集上进行实验，以验证所开发FSCO的有效性。
引用
@article{arxiv.2504.15099,
title = {Fast-Slow Co-advancing Optimizer: Toward Harmonious Adversarial Training of GAN},
author = {Lin Wang and Xiancheng Wang and Rui Wang and Zhibo Zhang and Minghang Zhao},
journal= {arXiv preprint arXiv:2504.15099},
year = {2025}
}