用于GAN压缩的在线多粒度蒸馏
计算机视觉与模式识别
2021-08-27 v2
摘要
生成对抗网络（GANs）在生成卓越图像方面取得了显著成功，然而由于其沉重的计算成本与庞大的内存占用，难以部署于资源受限设备。尽管近期压缩GAN的努力已取得可观结果，仍存在潜在模型冗余并可被进一步压缩。为解决此问题，我们提出一种新颖的在线多粒度蒸馏（OMGD）方案以获得轻量型GAN，其有助于以低计算需求生成高保真图像。我们首次尝试将单阶段在线蒸馏推广至面向GAN的压缩，其中逐步提升的教师生成器有助于精炼基于无判别器的学生生成器。互补的教师生成器与网络层提供全面且多粒度的概念，从多样维度增强视觉保真度。在四个基准数据集上的实验结果表明，OMGD成功在Pix2Pix与CycleGAN上压缩40倍MACs与82.5倍参数，且不损失图像质量。这表明OMGD为资源受限设备上的实时图像翻译部署提供了可行方案。我们的代码与模型已公开于：https://github.com/bytedance/OMGD。
引用
@article{arxiv.2108.06908,
title = {Online Multi-Granularity Distillation for GAN Compression},
author = {Yuxi Ren and Jie Wu and Xuefeng Xiao and Jianchao Yang},
journal= {arXiv preprint arXiv:2108.06908},
year = {2021}
}
备注
Accepted by ICCV2021