Mind2Mind：生成对抗网络的迁移学习
机器学习
2021-08-17 v2 计算机视觉与模式识别
机器学习
摘要
在高品质（HQ）图像上训练生成对抗网络（GAN）涉及重要的计算资源。这一需求构成了GAN应用发展的瓶颈。我们提出了一种GAN的迁移学习技术，可显著减少训练时间。我们的方法包括冻结原始GAN的判别器和生成器的低层。我们假设一个自编码器约束，以确保判别器和生成器内部表示的兼容性。这一假设解释了训练时间的增益，因为它使我们能够在前向和后向传递中绕过低层。我们将我们的方法与基线进行比较，观察到训练显著加速。与StyleGAN相比，在HQ数据集上可达到两个数量级的加速。我们在最优传输框架内严格证明了一个定理，确保迁移后的GAN学习的收敛性。此外，我们根据源数据集和目标数据集之间的距离，为训练的收敛性提供了一个精确的界限。
引用
@article{arxiv.1906.11613,
title = {Mind2Mind : transfer learning for GANs},
author = {Yaël Frégier and Jean-Baptiste Gouray},
journal= {arXiv preprint arXiv:1906.11613},
year = {2021}
}
备注
10 pages, 7 figures