复合二值分解网络
机器学习
2018-11-19 v1 计算机视觉与模式识别
摘要
二值神经网络具有极高的资源和计算效率,但与全精度对应网络相比,存在训练过程长且精度下降不可忽略的问题。本文提出复合二值分解网络(CBDNet),其首先将每层的实值张量由有限数量的二值张量组合而成,继而将某些受约束的二值张量分解为两个低秩二值张量,从而相较于原始网络大幅减少参数与运算量。实验证明了所提方法的有效性:CBDNet 分别以 5.25 位近似图像分类网络 ResNet-18、以 5.47 位近似 VGG-16、以 5.72 位近似 DenseNet-121、以 4.38 位近似目标检测网络 SSD300、以 5.18 位近似语义分割网络 SegNet,且精度下降均较小。
引用
@article{arxiv.1811.06668,
title = {Composite Binary Decomposition Networks},
author = {You Qiaoben and Zheng Wang and Jianguo Li and Yinpeng Dong and Yu-Gang Jiang and Jun Zhu},
journal= {arXiv preprint arXiv:1811.06668},
year = {2018}
}