GAN已死,GAN万岁!一个现代GAN基线
机器学习
2025-01-10 v1 计算机视觉与模式识别
摘要
有一种广泛流传的说法认为GAN难以训练,并且文献中的GAN架构充斥着经验性技巧。我们提供了反驳这一说法的证据,并以更原则性的方式构建了一个现代GAN基线。首先,我们推导出一个行为良好的正则化相对GAN损失,它解决了之前通过一堆临时技巧处理的模式崩溃和不收敛问题。我们从数学上分析了我们的损失,并证明它允许局部收敛保证,这与大多数现有的相对损失不同。其次,我们的新损失使我们能够丢弃所有临时技巧,并用现代架构替换常见GAN中使用的过时主干。以StyleGAN2为例,我们提出了一个简化和现代化的路线图,最终形成了一个新的极简基线——R3GAN。尽管简单,我们的方法在FFHQ、ImageNet、CIFAR和Stacked MNIST数据集上超越了StyleGAN2,并与最先进的GAN和扩散模型相比表现良好。
引用
@article{arxiv.2501.05441,
title = {The GAN is dead; long live the GAN! A Modern GAN Baseline},
author = {Yiwen Huang and Aaron Gokaslan and Volodymyr Kuleshov and James Tompkin},
journal= {arXiv preprint arXiv:2501.05441},
year = {2025}
}
备注
Accepted to NeurIPS 2024. Code available at https://github.com/brownvc/R3GAN/