基于 Lipschitz 约束的函数梯度学习方法用于生成对抗网络
计算机视觉与模式识别
2025-01-22 v1 机器学习
摘要
本文提出了一种具有明确理论保证的生成对抗网络（GAN）大规模数据集训练的新颖方法。GAN 通常通过生成器和判别器之间的对抗性博弈进行学习，已知其在实际中存在不稳定的问题。以往的学习范式在缺乏理论解决方案的情况下遭遇模式崩溃问题。为解决这些挑战，我们提出了一种新的 Lipschitz 受约束的函数梯度GAN学习方法（Li-CFG），以稳定GAN的训练并通过减小潜向量邻域大小，从而在理论上为有效增加合成样本的多样性提供基础。具体地，我们证明，通过增加判别器梯度的范数，可以减小潜向量的邻域大小，从而增强合成样本的多样性。为高效放大判别器梯度的范数，我们引入一种新的 -中心梯度惩罚项，通过超参数 放大判别器梯度的范数。与其他约束方法相比，我们的方法放大了判别器的范数，从而获得了潜向量最小的邻域大小。在图像生成基准数据集上的大量实验表明，Li-CFG 方法和 -中心梯度惩罚都具有有效性。结果表明，合成样本的稳定性和多样性得到了改善。
引用
@article{arxiv.2501.11236,
title = {A New Formulation of Lipschitz Constrained With Functional Gradient Learning for GANs},
author = {Chang Wan and Ke Fan and Xinwei Sun and Yanwei Fu and Minglu Li and Yunliang Jiang and Zhonglong Zheng},
journal= {arXiv preprint arXiv:2501.11236},
year = {2025}
}