利用动态判别器改进 GAN
计算机视觉与模式识别
2022-09-21 v1 图像与视频处理
摘要
判别器在训练生成对抗网络（GANs）中通过区分真实样本与合成样本发挥着至关重要的作用。在真实数据分布保持不变的同时，由于生成器的不断演化，合成分布持续变化，从而相应地改变了判别器的二分类任务。我们认为，具有按需动态调整容量的判别器能够更好地适应这种时变任务。一项全面的实证研究表明，所提出的称为 DynamicD 的训练策略在不带来任何额外计算成本或训练目标的情况下提升了合成性能。针对不同的数据规模，我们开发了两种用于训练 GANs 的容量调整方案：i）在训练数据充足时，判别器受益于逐步提升的学习容量；ii）当训练数据有限时，逐渐减小层宽可缓解判别器的过拟合问题。在多个数据集上进行的 2D 与 3D 感知图像合成任务的实验证实了我们的 DynamicD 的通用性及其相对于基线的显著提升。此外，DynamicD 与其他改进判别器的方法（包括数据增强、正则化与预训练）具有协同作用，并且在组合用于学习 GANs 时带来持续的性能增益。
引用
@article{arxiv.2209.09897,
title = {Improving GANs with A Dynamic Discriminator},
author = {Ceyuan Yang and Yujun Shen and Yinghao Xu and Deli Zhao and Bo Dai and Bolei Zhou},
journal= {arXiv preprint arXiv:2209.09897},
year = {2022}
}
备注
To appear in NeurIPS 2022