生成对抗网络的分布逼近与统计估计保证
机器学习
2022-07-22 v3 机器学习
摘要
生成对抗网络（GANs）在无监督学习中取得了巨大成功。尽管其经验性能卓越，关于 GANs 统计性质的理论研究仍然有限。本文针对具有 H"{o}lder 空间中密度的数据分布估计，给出了 GANs 的逼近与统计保证。我们的主要结果表明，若生成器与判别器的网络结构选择得当，GANs 在强差异度量（如 Wasserstein-1 距离）下是数据分布的一致估计量。此外，当数据分布呈现低维结构时，我们证明 GANs 能够捕捉数据中未知的低维结构，并享有快速统计收敛性，且该收敛不受环境维度灾难的影响。我们对低维数据的分析建立在具有 Lipschitz 连续性保证的神经网络通用逼近理论之上，该理论本身可能具有独立意义。
引用
@article{arxiv.2002.03938,
title = {Distribution Approximation and Statistical Estimation Guarantees of Generative Adversarial Networks},
author = {Minshuo Chen and Wenjing Liao and Hongyuan Zha and Tuo Zhao},
journal= {arXiv preprint arXiv:2002.03938},
year = {2022}
}
备注
Version two extends to low-dimensional linear and mixture distributions