训练比特全卷积网络以实现快速语义分割
计算机视觉与模式识别
2016-12-02 v1 机器学习
摘要
全卷积神经网络能够为输入图像提供准确的逐像素预测,并应用于语义分割等任务。然而,典型的FCN通常需要大量浮点计算和较大的运行时内存,这有效限制了其实用性。我们提出一种训练比特全卷积网络(BFCN)的方法,这是一种具有低比特宽度权重和激活值的全卷积神经网络。由于其大部分计算密集的卷积是在低比特宽度数字之间完成的,BFCN可通过高效的比特卷积实现来加速。在CPU上,两个比特向量之间的点积运算可简化为按位操作和popcount,其吞吐量远高于32位乘法和加法。为验证BFCN的有效性,我们在PASCAL VOC 2012语义分割任务和Cityscapes上进行了实验。我们的BFCN具有1比特权重和2比特激活值,在CPU上运行速度提升7.8倍,或在FPGA上所需资源少于1\%,可达到与32位对应网络相当的性能。
引用
@article{arxiv.1612.00212,
title = {Training Bit Fully Convolutional Network for Fast Semantic Segmentation},
author = {He Wen and Shuchang Zhou and Zhe Liang and Yuxiang Zhang and Dieqiao Feng and Xinyu Zhou and Cong Yao},
journal= {arXiv preprint arXiv:1612.00212},
year = {2016}
}