IID-GAN: 一种用于正则化模式崩溃的独立同分布采样视角
机器学习
2023-06-21 v3
摘要
尽管取得了成功,生成对抗网络(GANs)仍然遭受模式崩溃的困扰,即生成器只能将潜变量映射到目标分布中的部分模式。本文中,我们从一个独立同分布(IID)采样的视角分析并试图正则化这一问题,并强调保持指代目标分布的IID性质对于生成而言可以自然地避免模式崩溃。这基于机器学习中对真实数据的基本IID假设。然而,尽管源样本 {z} 服从IID,生成样本 {G(z)} 未必是从目标分布中进行的IID采样。基于该观察,考虑到IID生成的一个必要条件——来自目标数据的逆样本在源分布中也应为IID,我们提出一种新的损失函数,以鼓励真实数据的逆样本与潜空间中的高斯源之间的接近,从而正则化生成过程使其从目标分布中IID采样。在合成与真实世界数据上的实验表明了我们所提模型的有效性。
引用
@article{arxiv.2106.00563,
title = {IID-GAN: an IID Sampling Perspective for Regularizing Mode Collapse},
author = {Yang Li and Liangliang Shi and Junchi Yan},
journal= {arXiv preprint arXiv:2106.00563},
year = {2023}
}
备注
Accepted in IJCAI 2023