可瘦身生成对抗网络
机器学习
2021-03-19 v3 人工智能
摘要
生成对抗网络(GANs)近年来取得了显著进展,但模型规模的持续增长使其在 practical 应用中难以广泛部署。特别是,对于实时生成任务,不同设备因计算能力各异而需要不同大小的生成器。在本文中,我们引入可瘦身 GAN(SlimGANs),其可灵活切换生成器宽度,以在运行时适应各种质量-效率权衡。具体而言,我们利用多个共享部分参数的判别器来训练可瘦身生成器。为促进不同宽度生成器之间的\textit{一致性},我们提出一种逐步原位蒸馏技术,鼓励窄生成器从宽生成器学习。对于类条件生成,我们提出可切片条件批归一化,将标签信息融入不同宽度。我们的方法通过大量实验和详细的消融研究在定量与定性上得到验证。
引用
@article{arxiv.2012.05660,
title = {Slimmable Generative Adversarial Networks},
author = {Liang Hou and Zehuan Yuan and Lei Huang and Huawei Shen and Xueqi Cheng and Changhu Wang},
journal= {arXiv preprint arXiv:2012.05660},
year = {2021}
}
备注
Accepted to AAAI 2021