面向 GAN 压缩的判别器协同特征图蒸馏
计算机视觉与模式识别
2023-01-02 v1
摘要
尽管生成对抗网络(GANs)在图像生成方面表现优异，但其对巨大存储与密集计算的需求却臭名昭著。作为出色的“性能制造者”，知识蒸馏被证明在探索低成本 GANs 方面尤为有效。本文中，我们探究了教师判别器的不可替代性，并提出了一种创新的判别器协同蒸馏(简称为 DCD)，以从生成器中提炼出更优的特征图。与特征图蒸馏中传统的逐像素匹配方法不同，我们的 DCD 利用教师判别器作为变换，驱动学生生成器的中间结果在感知上接近教师生成器的对应输出。此外，为缓解 GAN 压缩中的模式崩溃，我们构建了协同对抗训练范式，其中教师判别器从头建立，与我们的 DCD 一起与学生生成器协同训练。与现有 GAN 压缩方法相比，我们的 DCD 展现出更优结果。例如，在将 CycleGAN 的 MACs 减少超过 40 倍、参数减少超过 80 倍后，我们将 FID 指标从 61.53 良好地降至 48.24，而当前 SoTA 方法仅达 51.92。本工作的源代码已发布于 https://github.com/poopit/DCD-official。
引用
@article{arxiv.2212.14169,
title = {Discriminator-Cooperated Feature Map Distillation for GAN Compression},
author = {Tie Hu and Mingbao Lin and Lizhou You and Fei Chao and Rongrong Ji},
journal= {arXiv preprint arXiv:2212.14169},
year = {2023}
}