利用排斥损失函数改进 MMD-GAN 训练
机器学习
2019-02-11 v4 计算机视觉与模式识别
机器学习
摘要
生成对抗网络(GANs)被广泛用于学习数据采样过程，在有限计算预算下其性能可能严重依赖于损失函数。本研究重新审视了以最大均值差异(MMD)作为 GAN 损失函数的 MMD-GAN，并作出两点贡献。首先，我们认为现有的 MMD 损失函数可能因试图压缩真实数据的判别器输出而不利于学习数据中的精细细节。为解决此问题，我们提出一种排斥损失函数，通过简单地重排 MMD 中的项来主动学习真实数据间的差异。其次，受 hinge loss 启发，我们提出有界高斯核以稳定采用排斥损失函数的 MMD-GAN 训练。所提方法应用于 CIFAR-10、STL-10、CelebA 和 LSUN bedroom 数据集上的无监督图像生成任务。结果表明，排斥损失函数在无额外计算成本下显著优于 MMD 损失，并胜过其他代表性损失函数。所提方法使用单一 DCGAN 网络与谱归一化在 CIFAR-10 数据集上取得了 16.21 的 FID 分数。
引用
@article{arxiv.1812.09916,
title = {Improving MMD-GAN Training with Repulsive Loss Function},
author = {Wei Wang and Yuan Sun and Saman Halgamuge},
journal= {arXiv preprint arXiv:1812.09916},
year = {2019}
}
备注
Published as a conference paper at ICLR 2019