关于采用间隔余弦损失与相对判别器的 GAN 的实证研究
计算机视觉与模式识别
2021-10-25 v2
摘要
生成对抗网络（GAN）已成为有用的生成模型，能够隐式学习任意复杂维度的数据分布。然而，众所周知 GAN 的训练在经验上极不稳定且敏感。判别器和生成器关于其参数的损失函数在训练期间往往剧烈振荡。人们提出了不同的损失函数以稳定训练并提高生成图像的质量。本文中，我们对若干损失函数对标准 GAN 模型——深度卷积生成对抗网络（DCGAN）性能的影响进行了实证研究。我们引入了一种新改进，采用相对判别器替换 DCGAN 中的经典确定性判别器，并为生成器和判别器实现了间隔余弦损失函数。这产生了一种新颖的损失函数，即相对间隔余弦损失（RMCosGAN）。我们使用四个数据集进行了大量实验：CIFAR-、MNIST、STL- 和 CAT。我们基于两个指标——Fréchet 初始距离和初始分数，将 RMCosGAN 性能与现有损失函数进行比较。实验结果表明，RMCosGAN 优于现有方法，并显著提高了生成图像的质量。
引用
@article{arxiv.2110.11293,
title = {An Empirical Study on GANs with Margin Cosine Loss and Relativistic Discriminator},
author = {Cuong V. Nguyen and Tien-Dung Cao and Tram Truong-Huu and Khanh N. Pham and Binh T. Nguyen},
journal= {arXiv preprint arXiv:2110.11293},
year = {2021}
}
备注
16 pages, 5 figures