Spider GAN:利用友好邻域加速GAN训练
计算机视觉与模式识别
2023-05-15 v1 人工智能
机器学习
机器学习
摘要
稳定地训练生成对抗网络(GAN)是一项具有挑战性的任务。GAN中的生成器将通常为高斯分布的噪声向量转换为图像等真实数据。本文提出一种以图像为输入训练GAN的新方法,但不施加任何成对约束。其直觉在于图像比噪声更具结构性,生成器可利用这一点学习更鲁棒的转换。通过识别密切相关的数据集或目标分布的“友好邻域”,该过程可变得高效,由此得名Spider GAN。为定义利用数据集间邻近性的友好邻域,我们受多调和核启发提出一种称为有符号初始距离(SID)的新度量。我们表明Spider GAN公式可实现更快收敛,因为生成器甚至能在看似无关的数据集间发现对应关系,例如Tiny-ImageNet与CelebA人脸之间。此外,我们展示了级联Spider GAN,其中预训练GAN生成器的输出分布用作后续网络的输入。有效地以级联方式将一个分布传输至另一个分布直至学习目标——一种新形式的迁移学习。我们在DCGAN、conditional GAN、PGGAN、StyleGAN2与StyleGAN3上证明了Spider方法的有效性。所提方法在MetFaces、Ukiyo-E Faces与AFHQ-Cats等高分辨率小数据集上,以基线对应方法五分之一的训练迭代次数达到了最先进的Frechet初始距离(FID)值。
引用
@article{arxiv.2305.07613,
title = {Spider GAN: Leveraging Friendly Neighbors to Accelerate GAN Training},
author = {Siddarth Asokan and Chandra Sekhar Seelamantula},
journal= {arXiv preprint arXiv:2305.07613},
year = {2023}
}
备注
CVPR 2023