中文

GAN中正则化与归一化的大规模研究

机器学习 2019-05-15 v3 机器学习

摘要

生成对抗网络(GANs)是一类以无监督方式学习目标分布的深度生成模型。尽管它们已成功应用于诸多问题,训练GAN却是出了名的困难任务,需要大量超参数调优、神经架构设计以及相当数量的“技巧”。在许多实际应用中的成功,加上缺乏量化GAN失败模式的度量,导致了大量提出的损失函数、正则化与归一化方案以及神经架构的出现。在这项工作中,我们从实践角度对GAN当前状态进行了冷静审视。我们讨论并评估了常见陷阱与可复现性问题,在Github上开源了我们的代码,并在TensorFlow Hub上提供了预训练模型。

关键词

引用

@article{arxiv.1807.04720,
  title  = {A Large-Scale Study on Regularization and Normalization in GANs},
  author = {Karol Kurach and Mario Lucic and Xiaohua Zhai and Marcin Michalski and Sylvain Gelly},
  journal= {arXiv preprint arXiv:1807.04720},
  year   = {2019}
}

备注

Revision accepted to ICML'19: More focus on regularization and normalization aspects. Added recent references and promising future directions