TinyGAN：蒸馏 BigGAN 用于条件图像生成
计算机视觉与模式识别
2020-09-30 v1
摘要
生成对抗网络（GANs）已成为生成式图像建模的有力方法。然而，GANs 以训练不稳定著称，尤其在大规模复杂数据集上。近期 BigGAN 的工作显著提升了 ImageNet 上图像生成质量，但其模型庞大，难以部署于资源受限设备。为缩减模型规模，我们提出一种黑盒知识蒸馏框架用于压缩 GANs，其具备稳定高效的训练过程。以 BigGAN 为教师网络，我们训练出小得多的学生网络来模仿其功能，在 Inception 与 FID 分数上取得有竞争力性能，且生成器参数减少 。
引用
@article{arxiv.2009.13829,
title = {TinyGAN: Distilling BigGAN for Conditional Image Generation},
author = {Ting-Yun Chang and Chi-Jen Lu},
journal= {arXiv preprint arXiv:2009.13829},
year = {2020}
}
备注
accepted by ACCV 2020