CoopInit：通过协作学习初始化生成对抗网络
计算机视觉与模式识别
2023-03-22 v1 图像与视频处理
摘要
已有大量研究工作致力于稳定生成对抗网络（GANs）的训练，例如通过正则化与架构设计。然而，我们确认不稳定性也可能源于对抗学习早期阶段的脆弱平衡。本文提出CoopInit，一种简单而有效的基于协作学习的初始化策略，能以极小的训练计算开销为GANs快速学习一个良好的起点。所提算法包含两个学习阶段：（i）协作初始化阶段：将GAN的判别器视为基于能量的模型（EBM）并通过最大似然估计（MLE）优化，借助GAN的生成器提供合成数据以近似学习梯度。该EBM也通过MCMC教学引导生成器的MLE学习；（ii）对抗收尾阶段：经过若干次初始化迭代后，算法无缝过渡到常规极小极大对抗训练直至收敛。其动机在于，基于MLE的初始化阶段驱动模型朝向模式覆盖，有助于缓解对抗学习阶段的模式丢弃问题。我们通过大量实验在图像生成与单边非配对图像到图像翻译任务上证明了所提方法的有效性。
引用
@article{arxiv.2303.11649,
title = {CoopInit: Initializing Generative Adversarial Networks via Cooperative Learning},
author = {Yang Zhao and Jianwen Xie and Ping Li},
journal= {arXiv preprint arXiv:2303.11649},
year = {2023}
}
备注
9 pages of main text, 2 pages of references