生成对抗学习的逼近与收敛性质
机器学习
2017-05-30 v1 机器学习
摘要
生成对抗网络（GAN）通过在生成器与判别器之间进行“双人博弈”，联合优化目标函数来逼近目标数据分布。尽管它们在经验上取得了成功，但关于其逼近目标分布能力的两个基本问题仍未得到解答。首先，限制判别器族如何影响逼近质量尚不清楚。其次，虽然已提出多种不同的目标函数，但我们并不清楚在分布收敛的各种概念下，目标函数收敛到全局极小值何时能导致收敛到目标分布。本文通过定义一类对抗散度（adversarial divergences）的概念，在一个广泛且统一的框架下探讨了这些问题，该概念涵盖了许多近期提出的目标函数。我们证明，若目标函数是满足某些附加条件的对抗散度，则使用受限的判别器族会产生矩匹配效应。此外，我们证明，对于严格对抗散度目标函数，目标函数中的收敛蕴含弱收敛，从而推广了先前的结果。
引用
@article{arxiv.1705.08991,
title = {Approximation and Convergence Properties of Generative Adversarial Learning},
author = {Shuang Liu and Olivier Bousquet and Kamalika Chaudhuri},
journal= {arXiv preprint arXiv:1705.08991},
year = {2017}
}