超越（仅）增强的数据高效GAN训练：彩票票视角
机器学习
2021-10-26 v3 人工智能
计算机视觉与模式识别
摘要
使用有限的真实图像数据训练生成对抗网络（GANs）通常会导致性能恶化和模型崩溃。为克服这一挑战，我们受到最新观察的启发，即可以从GAN中发现可独立训练且高度稀疏的子网络（又称彩票票）。将此视为归纳先验，我们提出了一种全新的数据高效GAN训练角度：首先利用小规模真实图像训练集从原始GAN中识别彩票票；然后复用同一数据集专注于训练该稀疏子网络。我们发现所提出的协同框架相对于现有的真实图像数据增强方法具有正交的收益，并且我们额外提出了一种可与之结合使用的特征级增强。综合实验在多种GAN架构（SNGAN、BigGAN和StyleGAN-V2）和多样数据集（CIFAR-10、CIFAR-100、Tiny-ImageNet、ImageNet以及多个少样本生成数据集）上证实了我们所提框架的有效性。代码可在 https://github.com/VITA-Group/Ultra-Data-Efficient-GAN-Training 获取。
引用
@article{arxiv.2103.00397,
title = {Data-Efficient GAN Training Beyond (Just) Augmentations: A Lottery Ticket Perspective},
author = {Tianlong Chen and Yu Cheng and Zhe Gan and Jingjing Liu and Zhangyang Wang},
journal= {arXiv preprint arXiv:2103.00397},
year = {2021}
}
备注
NeurIPS 21