面向数据高效GAN训练的增强感知自监督方法
机器学习
2023-12-29 v5 人工智能
计算机视觉与模式识别
摘要
在有限数据下训练生成对抗网络（GANs）具有挑战性，因为判别器易于过拟合。先前提出的可微增强展示了训练GAN时改进的数据效率。然而，该增强隐式地为判别器引入了不期望的增强不变性，因为它忽略了数据变换引起的标签空间语义变化，这可能限制判别器的表示学习能力，并最终影响生成器的生成建模性能。为减轻不变性的负面影响同时继承数据增强的益处，我们提出了一种新颖的增强感知自监督判别器，用于预测增强数据的增强参数。特别地，由于真实数据与生成数据在训练期间目标不同，要求对其预测目标加以区分。我们进一步鼓励生成器通过对抗方式从该自监督判别器学习，生成可预测增强的真实而非伪造的数据。在特定假设下，该表述将生成器的学习目标与算术-调和平均散度联系起来。我们在数据受限的CIFAR-10、CIFAR-100、FFHQ、LSUN-Cat及五个少样本数据集上，使用类条件BigGAN与无条件StyleGAN2架构将我们的方法与最先进（SOTA）方法进行比较。实验结果表明，我们的方法在训练数据高效GAN方面相较SOTA方法取得显著改进。
引用
@article{arxiv.2205.15677,
title = {Augmentation-Aware Self-Supervision for Data-Efficient GAN Training},
author = {Liang Hou and Qi Cao and Yige Yuan and Songtao Zhao and Chongyang Ma and Siyuan Pan and Pengfei Wan and Zhongyuan Wang and Huawei Shen and Xueqi Cheng},
journal= {arXiv preprint arXiv:2205.15677},
year = {2023}
}
备注
NeurIPS 2023