PConv:一种简洁而高效的生成对抗网络卷积层
计算机视觉与模式识别
2021-12-23 v3 人工智能
机器学习
摘要
本文提出了一种新颖的卷积层,称为扰动卷积(PConv),其旨在同时实现两个目标:提升生成对抗网络(GAN)性能,并缓解记忆化问题——即随着训练推进,判别器将给定数据集中的所有图像都记住。在 PConv 中,扰动特征是通过在执行卷积操作前对输入张量进行随机扰动而生成的。该方法简单却出奇有效。首先,即便使用扰动后的张量也要产生相似输出,判别器中的每一层都应学习具有较小局部 Lipschitz 值的鲁棒特征。其次,由于输入张量在训练过程中像神经网络中的 dropout 一样被随机扰动,记忆化问题可得以缓解。为展示所提方法的泛化能力,我们使用多种损失函数以及包括 CIFAR-10、CelebA、CelebA-HQ、LSUN 和 tiny-ImageNet 在内的数据集进行了大量实验。定量评估表明,PConv 在 Frechet inception distance(FID)方面有效提升了 GAN 与条件 GAN 的性能。
引用
@article{arxiv.2101.10841,
title = {PConv: Simple yet Effective Convolutional Layer for Generative Adversarial Network},
author = {Seung Park and Yoon-Jae Yeo and Yong-Goo Shin},
journal= {arXiv preprint arXiv:2101.10841},
year = {2021}
}
备注
Submitted to journal, arXiv admin note: text overlap with arXiv:1911.10979