中文

MaGNET:无需重训练即可从深度生成网络流形中进行均匀采样

机器学习 2022-01-24 v3 计算机视觉与模式识别

摘要

深度生成网络 (DGN) 被广泛应用于生成对抗网络 (GAN)、变分自编码器 (VAE) 及其变体中,以近似数据流形和分布。然而,由于收集成本或便利性等原因,训练样本在流形上的分布往往是非均匀的。例如,CelebA 数据集包含很大比例的微笑面孔。当从训练好的 DGN 中采样时,这些不一致性会被重现,而这并非总是所期望的,例如出于公平性或数据增强的考虑。为此,我们开发了 MaGNET,一种新颖且有理论依据的潜空间采样器,适用于任何预训练的 DGN,能在学习到的流形上产生均匀分布的样本。我们在各种数据集和 DGN 上进行了一系列实验,例如,对于在 FFHQ 数据集上训练的最先进的 StyleGAN2,通过 MaGNET 进行均匀采样将分布精度和召回率分别提高了 4.1% 和 3.0%,并将性别偏差降低了 41.2%,且无需标签或重训练。由于均匀分布并不意味着均匀的语义分布,我们还分别探讨了在 MaGNET 采样下生成样本的语义属性如何变化。

关键词

引用

@article{arxiv.2110.08009,
  title  = {MaGNET: Uniform Sampling from Deep Generative Network Manifolds Without Retraining},
  author = {Ahmed Imtiaz Humayun and Randall Balestriero and Richard Baraniuk},
  journal= {arXiv preprint arXiv:2110.08009},
  year   = {2022}
}

备注

ICLR Accepted version, 28 pages, 23 figures