DigGAN：用于有限数据下 GAN 训练的判别器梯度间隙正则化
机器学习
2022-11-29 v1 计算机视觉与模式识别
摘要
生成对抗网络（GANs）在学习从给定数据集所指定的分布中采样方面取得了显著成功，特别是当给定数据集相对于其维度而言足够大时。然而，在有限数据条件下，经典 GANs 表现不佳，而输出正则化、数据增强、预训练模型的使用以及剪枝等策略已被证明能带来改进。值得注意的是，这些策略的适用性往往 1) 受限于特定设置，例如需要可用的预训练 GAN；或 2) 增加了训练时间，例如在使用剪枝时。相比之下，我们提出了一种判别器梯度间隙正则化的 GAN（DigGAN）形式，可添加到任何现有 GAN 中。DigGAN 通过鼓励缩小判别器对真实图像的预测梯度范数与对生成样本的预测梯度范数之间的差距来增强现有 GANs。我们观察到该形式能避免 GAN 损失景观中的不良吸引子，并发现当可用数据有限时，DigGAN 能显著改善 GAN 训练的结果。代码见 \url{https://github.com/AilsaF/DigGAN}。
引用
@article{arxiv.2211.14694,
title = {DigGAN: Discriminator gradIent Gap Regularization for GAN Training with Limited Data},
author = {Tiantian Fang and Ruoyu Sun and Alex Schwing},
journal= {arXiv preprint arXiv:2211.14694},
year = {2022}
}
备注
Accepted to NeurIPS 2022