中文

PBGen:基于反卷积生成器的部分二值化用于边缘智能

计算机视觉与模式识别 2020-01-28 v3

摘要

本工作探索对 GAN 中基于反卷积的生成器进行二值化,以节省内存并加速图像生成。我们的研究表明,不同于卷积神经网络(包括判别器)中所有层均可二值化,生成器中仅部分层可在不显著损失性能的前提下被二值化。在理论分析支持与实验验证下,我们建立了一个基于反卷积操作维度的直接度量,可用于快速决定生成器中哪些层可被二值化。我们的结果还表明,生成器与判别器应同时二值化以实现均衡竞争与更优性能。基于 CelebA 的实验结果表明,直接将最先进二值化技术应用于生成器所有层,相较原始生成器会导致按切片 Wasserstein 距离衡量的 2.83×\times 性能损失,而仅应用于选定层则可在几乎不损失性能的情况下实现高达 25.81×\times 的内存节省,以及推理与训练分别 1.96×\times 和 1.32×\times 的加速。

关键词

引用

@article{arxiv.1802.09153,
  title  = {PBGen: Partial Binarization of Deconvolution-Based Generators for Edge Intelligence},
  author = {Jinglan Liu and Jiaxin Zhang and Yukun Ding and Xiaowei Xu and Meng Jiang and Yiyu Shi},
  journal= {arXiv preprint arXiv:1802.09153},
  year   = {2020}
}

备注

17 pages, paper re-organized