中文

教 GAN 不学什么

机器学习 2020-10-30 v1 机器学习

摘要

生成对抗网络(GAN)最初被设想为学习遵循目标分布的无监督生成模型。诸如条件 GAN、辅助分类器 GAN(ACGAN)等变体通过提供带标签数据并使用多类判别器,将 GAN 投射到监督与半监督学习框架中。在本文中,我们从不同的视角处理监督 GAN 问题,该视角受到著名波斯诗人鲁米哲学的启发,他说过“认知的艺术在于知道该忽略什么”。在 GAN 框架中,我们不仅向 GAN 提供其必须学习建模的正样本,还向其呈现所谓必须学会避免的负样本——我们称之为“鲁米框架(The Rumi Framework)”。该表述使判别器能够通过学习惩罚不期望的生成样本来更好地表示底层目标分布——我们表明这种能力加速了生成器的学习过程。我们给出了标准 GAN(SGAN)和最小二乘 GAN(LSGAN)在鲁米设定下的重构。该重构的优势通过在 MNIST、Fashion MNIST、CelebA 和 CIFAR-10 数据集上进行的实验得以展示。最后,我们考虑将所提表述应用于解决不平衡数据集中学习代表性不足类别这一重要问题。鲁米方法相较于标准 GAN 框架获得了显著更低的 FID 分数,同时具备更好的泛化能力。

关键词

引用

@article{arxiv.2010.15639,
  title  = {Teaching a GAN What Not to Learn},
  author = {Siddarth Asokan and Chandra Sekhar Seelamantula},
  journal= {arXiv preprint arXiv:2010.15639},
  year   = {2020}
}

备注

Neural Information Processing Systems 2020