生成对抗网络中的隐式流形学习

本文从隐式流形学习的视角研究生成对抗网络（GANs），考察所学习分布的支持集（建模为子流形 $\mathcal{M}_{\theta}$）如何与真实数据分布的支持集 $\mathcal{M}_{r}$ 完美匹配。我们证明优化 Jensen-Shannon 散度迫使 $\mathcal{M}_{\theta}$ 与 $\mathcal{M}_{r}$ 完美匹配，而优化 Wasserstein 距离则不会。另一方面，通过比较 Jensen-Shannon 散度与 Wasserstein 距离（$W_1$ 与 $W_2^2$）在其原始形式下的梯度，我们推测 Wasserstein $W_2^2$ 可能具备如减轻模式坍塌等理想性质。因此，设计能够兼取两者之长的新距离是一个有趣的方向。