生成器条件数与 GAN 性能是否存在因果关系？
机器学习
2018-06-20 v2 机器学习
摘要
近期工作 (Pennington 等, 2017) 指出，控制 Jacobian 奇异值的整个分布是深度学习中一个重要的设计考量。受此启发，我们研究了生成对抗网络 (GANs) 中生成器 Jacobian 的奇异值分布。我们发现该 Jacobian 在训练初期通常变为病态。此外，我们发现生成器的平均（z 取自 p(z)）条件数对另外两个用于衡量训练后 GANs '质量' 的临时指标——Inception Score 与 Frechet Inception Distance (FID)——具有高度预测性。我们通过提出一种 '正则化' 技术（称为 Jacobian Clamping）来软性惩罚生成器 Jacobian 的条件数，以检验该关系为因果的假设。Jacobian Clamping 提升了在多个数据集上训练的 GANs 的平均 Inception Score 与平均 FID。它还大幅降低了上述分数的运行间方差，从而（至少部分地）解决了针对 GANs 的主要批评之一。
引用
@article{arxiv.1802.08768,
title = {Is Generator Conditioning Causally Related to GAN Performance?},
author = {Augustus Odena and Jacob Buckman and Catherine Olsson and Tom B. Brown and Christopher Olah and Colin Raffel and Ian Goodfellow},
journal= {arXiv preprint arXiv:1802.08768},
year = {2018}
}