用布朗运动控制器稳定GAN训练
机器学习
2023-06-21 v1 动力系统
摘要
生成对抗网络(GANs)的训练过程不稳定且无法全局收敛。本文从控制理论视角审视GANs的稳定性,并提出一种通用的基于高阶噪声的控制器,称为布朗运动控制器(BMC)。从Dirac-GANs这一原型出发,我们设计BMC以精确恢复相同但可达的最优均衡。我们从理论上证明DiracGANs-BMC的训练过程全局指数稳定,并推导出收敛速率的界。随后我们将BMC扩展至普通GANs,并给出GANs-BMC的实现说明。实验表明,在StyleGANv2-ada框架下,我们的GANs-BMC有效稳定了GANs训练,具有更快收敛速率、更小振荡范围以及更优的FID分数表现。
引用
@article{arxiv.2306.10468,
title = {Stabilizing GANs' Training with Brownian Motion Controller},
author = {Tianjiao Luo and Ziyu Zhu and Jianfei Chen and Jun Zhu},
journal= {arXiv preprint arXiv:2306.10468},
year = {2023}
}