MMD GAN：迈向对矩匹配网络的更深理解
机器学习
2017-11-28 v3 人工智能
机器学习
摘要
生成矩匹配网络（GMMN）是一种深度生成模型，与生成对抗网络（GAN）的区别在于它用基于核最大均值差异（MMD）的双样本检验取代了 GAN 中的判别器。尽管 MMD 的一些理论保证已被研究，但在具有挑战性的大规模基准数据集上，GMMN 的经验性能仍不如 GAN。与 GAN 相比，GMMN 的计算效率也较不理想，部分原因是它在训练过程中需要相当大的批量大小。在本文中，我们提出通过引入对抗核学习技术作为原始 GMMN 中固定高斯核的替代，来同时改善 GMMN 的模型表达力及其计算效率。这种新方法结合了 GMMN 和 GAN 的核心思想，因此我们将其命名为 MMD GAN。MMD GAN 中的新距离度量是一个有意义的损失，它享有弱拓扑的优势，并且可以通过相对较小的批量大小进行梯度下降优化。在我们对多个基准数据集（包括 MNIST、CIFAR-10、CelebA 和 LSUN）的评估中，MMD-GAN 的性能显著优于 GMMN，并且与其他具有代表性的 GAN 工作相当。
引用
@article{arxiv.1705.08584,
title = {MMD GAN: Towards Deeper Understanding of Moment Matching Network},
author = {Chun-Liang Li and Wei-Cheng Chang and Yu Cheng and Yiming Yang and Barnabás Póczos},
journal= {arXiv preprint arXiv:1705.08584},
year = {2017}
}
备注
In the Proceedings of Thirty-first Annual Conference on Neural Information Processing Systems (NIPS 2017)