SGAN:一种生成对抗网络的替代训练方法
机器学习
2017-12-07 v1 机器学习
摘要
生成对抗网络(GANs)在数据合成方面已展现出令人印象深刻的性能,现被广泛应用于各类计算机视觉任务。尽管取得了成功,它们仍以难以训练而著称,这导致使用它们时需要耗时且依赖人工参与的开发过程。我们考虑一种名为 SGAN 的替代训练过程,其中若干对抗性的“局部”网络对被独立训练,使得一个“全局”监督网络对能够针对它们进行训练。目标是通过相应的集成对手来训练全局网络对,以在模式覆盖方面提升性能。该方法旨在增加全局网络对学习不停止的机会,防止两者陷入不理想的局部极小值,或面临实践中常观察到的振荡。为保证后者,全局网络对从不作用于局部网络。因此 SGAN 的训练规则如下:全局生成器与判别器分别使用局部判别器与生成器进行训练,而局部网络则与其固定的局部对手训练。在玩具问题与真实世界问题上的实验结果表明,该方法在标准训练的基础上更好地缓解了模式崩溃、提升了收敛稳定性,并且出人意料地加快了收敛速度。
引用
@article{arxiv.1712.02330,
title = {SGAN: An Alternative Training of Generative Adversarial Networks},
author = {Tatjana Chavdarova and François Fleuret},
journal= {arXiv preprint arXiv:1712.02330},
year = {2017}
}