生成对抗网络学习密度的能力如何:一个非参数视角
机器学习
2018-02-20 v2 机器学习
统计理论
统计理论
摘要
本文从非参数统计中借鉴见解,研究在生成对抗网络(GAN)框架下学习密度的收敛速度。我们引入了一种改进的GAN估计器,通过同时利用目标密度的平滑程度与评估度量,实现了更快的速率,这在理论上弥补了文献中报道的模式崩溃问题。构造了极小极大下界以表明当维度较大时,新GAN估计器速率中的指数接近最优。可将我们的结果视为以定量方式回答在评估度量的层次结构下,GAN如何很好地学习具有不同平滑性质的广泛密度。作为副产品,我们还获得了具有更深ReLU判别器网络的GAN的改进泛化界。
引用
@article{arxiv.1712.08244,
title = {How Well Can Generative Adversarial Networks Learn Densities: A Nonparametric View},
author = {Tengyuan Liang},
journal= {arXiv preprint arXiv:1712.08244},
year = {2018}
}
备注
21 pages