现代GAN的令人惊讶的性质

现代GAN在生成逼真且多样化样本方面取得了显著成绩。这一成就导致许多人相信“GAN捕获了训练数据流形”。本文我们表明，这一解释是错误的。我们实证表明，现代GAN学习的流形不适合训练分布：具体而言，流形未通过训练示例，且更接近于分布外图像而非分布内图像。我们还探讨了由潜在代码上的先验所暗示的图像分布，并研究现代GAN是否学习近似训练分布的密度。令人惊讶的是，我们发现所学密度与数据分布相距甚远，GAN倾向于为分布外图像分配更高密度。最后，我们演示了用于训练现代GAN的图像集常不属于GAN所描述的典型集合。