SMaRt：利用得分匹配正则性改进 GANs
机器学习
2025-10-02 v3 计算机视觉与模式识别
摘要
生成对抗网络（GANs）通常难以从高度多样且底层流形复杂的数据中学习。本文重访 GANs 的数学基础，并从理论上揭示：GAN 训练所用的原生对抗损失不足以解决“生成数据流形中正 Lebesgue 测度的子集落于真实数据流形之外”的问题。相反，我们发现得分匹配因其持续将生成数据点推向真实数据流形的能力，成为该问题的一种有前景的解决方案。我们由此提出利用得分匹配正则性（SMaRt）改进 GANs 的优化。在实证方面，我们首先设计一个玩具示例表明，借助真值得分函数辅助训练 GANs 可更准确复现真实数据分布；随后确认，在预训练扩散模型作为近似得分函数的真实世界数据集上，我们的方法能一致提升多种最先进 GANs 的合成性能。例如，在 ImageNet 数据集上训练 Aurora 时，我们将 FID 从 8.87 提升至 7.11，与单步一致性模型性能相当。代码见 \href{https://github.com/thuxmf/SMaRt}{https://github.com/thuxmf/SMaRt}。
引用
@article{arxiv.2311.18208,
title = {SMaRt: Improving GANs with Score Matching Regularity},
author = {Mengfei Xia and Yujun Shen and Ceyuan Yang and Ran Yi and Wenping Wang and Yong-Jin Liu},
journal= {arXiv preprint arXiv:2311.18208},
year = {2025}
}