关于估计生成模型的可区分性准则
摘要
最近引入的两种生成模型估计准则都基于归约为二分类。噪声对比估计（NCE）是一种估计过程，其中训练生成模型以能够区分数据样本与噪声样本。生成对抗网络（GANs）是生成器与判别器网络的配对，生成器网络通过试图欺骗判别器网络使其相信其样本是真实数据来学习生成样本。两种估计过程使用相同的函数来驱动学习，这自然引发了它们之间如何关联的问题，以及该函数是否与最大似然估计（MLE）相关。NCE 对应于训练一个属于判别器网络的内部数据模型，但使用固定的生成器网络。我们证明，具有动态生成器网络的 NCE 变体等价于最大似然估计。由于将学习到的判别器与适当动态选择的生成器配对可以恢复 MLE，人们可能期望反过来，将学习到的生成器与某个判别器配对也能恢复 MLE。然而，我们证明，为学习到的生成器恢复 MLE 需要偏离可区分性博弈。具体而言：(i) 如果允许对 NCE 使用非平稳噪声分布，可以使 NCE 判别器的期望梯度与 MLE 的期望梯度匹配；(ii) 没有任何判别器网络的选择能使 GAN 生成器的期望梯度与 MLE 的期望梯度匹配；(iii) 现有理论不能保证 GANs 在非凸情况下收敛。这表明 GAN 研究的关键下一步是确定 GANs 是否收敛，如果不收敛，则修改其训练算法以强制收敛。
引用
@article{arxiv.1412.6515,
title = {On distinguishability criteria for estimating generative models},
author = {Ian J. Goodfellow},
journal= {arXiv preprint arXiv:1412.6515},
year = {2015}
}
备注
This version adds a figure that appeared on the poster at ICLR, changes the template to say that the paper was accepted as a workshop contribution (previously it was under a review as a conference submission), and fixes some typos