面向低内在数据维度的生成对抗模型的统计特性

尽管生成对抗网络（GANs）在实践中取得了显著的经验成功，但其统计精度的理论保证仍相当悲观。特别是，GAN所应用的数据分布（如自然图像）常被假设具有在高维特征空间中的内在低维结构，但这在最新分析中所得的收敛率中并未体现。本文尝试在理论与实践之间架起桥梁，对GAN及其双向变体BiGAN，推导了估计密度的统计保证，具体表达为数据内在维度和潜在空间维度的函数。我们在分析上表明，如果获得来自未知目标分布的 $n$ 个样本且网络架构恰当选择，则期望 Wasserstein-1 距离误差随 $n$ 的收敛率为 $O\left( n^{-1/d_\mu } \right)$（GAN）和 $\tilde{O}\left( n^{-1/(d_\mu+\ell)} \right)$（BiGAN），其中 $d_\mu$ 和 $\ell$ 分别为数据分布和潜在空间的上 Wasserstein-1 维数。理论分析不仅表明这些方法成功地避免了维度诅咒，即误差率中 $n$ 的指数不依赖于数据维度；同时也为GAN的理论分析与最优传输文献中已知尖锐率之间的鸿沟提供了解释。此外，我们演示GAN能够有效实现非光滑底层分布即使没有光滑性假设也能达到 minimax 最优率，这需要采用插值生成器网络。