稳定 GAN 训练的新视角：直接对抗训练
图像与视频处理
2022-07-20 v5 计算机视觉与模式识别
机器学习
摘要
生成对抗网络（GANs）是最受欢迎的图像生成模型，已在多种计算机视觉任务上取得显著进展。然而，训练不稳定性仍是所有基于 GAN 的算法面临的开放问题之一。已有相当数量的方法被提出以稳定 GAN 的训练，其关注点分别置于损失函数、正则化与归一化技术、训练算法以及模型架构上。与上述方法不同，本文提出了一种稳定 GAN 训练的新视角。我们发现，有时生成器产生的图像在训练过程中类似于判别器的对抗样本，这可能是导致 GAN 训练不稳定的部分原因。基于该发现，我们提出直接对抗训练（DAT）方法以稳定 GAN 的训练过程。此外，我们证明 DAT 方法能够自适应地最小化判别器的 Lipschitz 常数。DAT 的先进性能在多种损失函数、网络架构、超参数与数据集上得到验证。具体而言，DAT 在基于 SSGAN 的 CIFAR-100 无条件生成上取得 11.5% FID 的显著提升，在基于 SSGAN 的 STL-10 无条件生成上取得 10.5% FID 的提升，并在基于 SSGAN 的 LSUN-Bedroom 无条件生成上取得 13.2% FID 的提升。代码将发布于 https://github.com/iceli1007/DAT-GAN。
引用
@article{arxiv.2008.09041,
title = {A New Perspective on Stabilizing GANs training: Direct Adversarial Training},
author = {Ziqiang Li and Pengfei Xia and Rentuo Tao and Hongjing Niu and Bin Li},
journal= {arXiv preprint arXiv:2008.09041},
year = {2022}
}
备注
Accepted to IEEE Transactions on Emerging Topics in Computational Intelligence