保结构GAN
机器学习
2022-06-20 v2 概率论
机器学习
摘要
生成对抗网络(GAN)是一类基于生成器与判别器二人博弈的分布学习方法,通常可依据未知分布与生成分布间散度的变分表示表述为极小极大问题。我们引入保结构GAN作为一种数据高效框架,通过发展散度的新变分表示来学习具有附加结构(如群对称性)的分布。我们的理论表明,利用关于底层结构相关联σ-代数的条件期望,可将判别器空间约化至其在不变判别器空间上的投影。此外,我们证明判别器空间约化必须伴随精心设计的结结构化生成器,因为缺陷设计极易导致学习分布的灾难性“模式崩塌”。我们通过构建具有内在群对称分布的自对称保持GAN来语境化我们的框架,并证明博弈双方——即等变生成器与不变判别器——在学习过程中扮演重要但不同的角色。跨广泛数据集(包括真实世界医学影像)的经验实验与消融研究验证了我们的理论,并表明我们提出的方法实现了显著改善的样本保真度与多样性——以Fréchet Inception Distance衡量几乎达一个数量级——尤其在小型数据体制下。
引用
@article{arxiv.2202.01129,
title = {Structure-preserving GANs},
author = {Jeremiah Birrell and Markos A. Katsoulakis and Luc Rey-Bellet and Wei Zhu},
journal= {arXiv preprint arXiv:2202.01129},
year = {2022}
}
备注
39 pages, 16 figures