AutoGAN-Distiller：搜索压缩生成对抗网络
计算机视觉与模式识别
2025-01-07 v3 机器学习
图像与视频处理
摘要
由于将 GAN 部署到移动设备以用于图像翻译、增强和编辑等众多应用的需求日益增长，生成对抗网络（GANs）的压缩近来受到关注。然而，相较于压缩其他深度模型的大量工作，压缩 GAN（通常是生成器）的研究仍处于起步阶段。现有 GAN 压缩算法局限于处理特定的 GAN 架构和损失。受近期 AutoML 在深度压缩中成功的启发，我们将 AutoML 引入 GAN 压缩并开发了 AutoGAN-Distiller（AGD）框架。从一个专门设计的高效搜索空间出发，AGD 在给定目标计算资源约束下对新的高效生成器进行端到端发现。搜索由原始 GAN 模型通过知识蒸馏引导，从而实现压缩。AGD 完全自动、独立（即无需训练好的判别器），并可普遍适用于各类 GAN 模型。我们在两项代表性 GAN 任务——图像翻译和超分辨率中评估 AGD。无需额外技巧，AGD 产生了显著轻量且更具竞争力的压缩模型，大幅优于现有方案。我们的代码和预训练模型可在 https://github.com/TAMU-VITA/AGD 获取。
引用
@article{arxiv.2006.08198,
title = {AutoGAN-Distiller: Searching to Compress Generative Adversarial Networks},
author = {Yonggan Fu and Wuyang Chen and Haotao Wang and Haoran Li and Yingyan Celine Lin and Zhangyang Wang},
journal= {arXiv preprint arXiv:2006.08198},
year = {2025}
}
备注
Accepted at ICML2020