作为散度最小化的非饱和 GAN 训练
机器学习
2020-10-19 v1 机器学习
摘要
非饱和生成对抗网络（GAN）训练被广泛使用并持续取得突破性成果。然而，与 f-GAN 和 Wasserstein GAN 等从近似散度最小化角度获得动机的替代方法不同，该方法迄今缺乏坚实的理论依据。本文中我们证明非饱和 GAN 训练实际上确实近似最小化了一种特定的 f-散度。我们开发了用于比较和分类 f-散度的通用理论工具，并借此表明这一新 f-散度在性质上类似于反向 KL 散度。这些结果有助于解释使用该方案时在经验上常观察到的样本质量高但多样性差的现象。
引用
@article{arxiv.2010.08029,
title = {Non-saturating GAN training as divergence minimization},
author = {Matt Shannon and Ben Poole and Soroosh Mariooryad and Tom Bagby and Eric Battenberg and David Kao and Daisy Stanton and RJ Skerry-Ryan},
journal= {arXiv preprint arXiv:2010.08029},
year = {2020}
}