关于经典和切片Wasserstein GAN在非高斯数据上的最优解
机器学习
2026-02-06 v2 信息论
math.IT
机器学习
摘要
生成对抗网络（Generative Adversarial Network, GAN）旨在通过参数化神经网络（Neural Network, NN）逼近未知分布。尽管GAN已在强化学习、半监督学习以及计算机视觉任务中得到广泛应用，但其参数的选择通常需要穷举搜索，且仅有少数选择方法被证明在理论上是优化的。最具前景的GAN变体之一是Wasserstein GAN（WGAN）。关于群体WGAN最优参数的先前工作仅限于线性-二次-高斯（Linear-Quadratic-Gaussian, LQG）设定，其中生成器NN是线性的，且数据是高斯的。在本文中，我们关注超越LQG设定下群体WGAN最优解的刻画。作为基本结果，当NN具有非线性激活函数且数据为非高斯时，推导出了一维WGAN的闭式最优参数。对于高维数据，我们采用切片Wasserstein框架，并证明线性生成器可以是渐近最优的。此外，原始切片WGAN仅约束投影数据的边缘分布而非经典WGAN中的整体分布，因此我们提出了另一种新的无投影切片WGAN，并确定了其渐近最优性。实证研究表明，与著名的r-主成分分析（r-PCA）解（其对数据维度具有立方复杂度）相比，我们的切片WGAN生成器仅以线性复杂度即可实现更好的性能。
引用
@article{arxiv.2509.06505,
title = {On optimal solutions of classical and sliced Wasserstein GANs with non-Gaussian data},
author = {Yu-Jui Huang and Hsin-Hua Shen and Yu-Chih Huang and Wan-Yi Lin and Shih-Chun Lin},
journal= {arXiv preprint arXiv:2509.06505},
year = {2026}
}