PBGen:基于反卷积生成器的部分二值化用于边缘智能
计算机视觉与模式识别
2020-01-28 v3
摘要
本工作探索对 GAN 中基于反卷积的生成器进行二值化,以节省内存并加速图像生成。我们的研究表明,不同于卷积神经网络(包括判别器)中所有层均可二值化,生成器中仅部分层可在不显著损失性能的前提下被二值化。在理论分析支持与实验验证下,我们建立了一个基于反卷积操作维度的直接度量,可用于快速决定生成器中哪些层可被二值化。我们的结果还表明,生成器与判别器应同时二值化以实现均衡竞争与更优性能。基于 CelebA 的实验结果表明,直接将最先进二值化技术应用于生成器所有层,相较原始生成器会导致按切片 Wasserstein 距离衡量的 2.83 性能损失,而仅应用于选定层则可在几乎不损失性能的情况下实现高达 25.81 的内存节省,以及推理与训练分别 1.96 和 1.32 的加速。
引用
@article{arxiv.1802.09153,
title = {PBGen: Partial Binarization of Deconvolution-Based Generators for Edge Intelligence},
author = {Jinglan Liu and Jiaxin Zhang and Yukun Ding and Xiaowei Xu and Meng Jiang and Yiyu Shi},
journal= {arXiv preprint arXiv:1802.09153},
year = {2020}
}
备注
17 pages, paper re-organized