局部二值卷积神经网络
机器学习
2017-07-04 v2 计算机视觉与模式识别
摘要
我们提出局部二值卷积（LBC），作为标准卷积神经网络（CNN）中卷积层的一种高效替代。LBC的设计原则受局部二值模式（LBP）启发。LBC层由一组固定的稀疏预定义二值卷积滤波器（在训练过程中不更新）、一个非线性激活函数以及一组可学习的线性权重组成。这些线性权重组合激活的滤波器响应，以近似标准卷积层相应的激活滤波器响应。LBC层实现了显著的参数节省，与标准卷积层相比，可学习参数数量减少9倍至169倍。此外，权重的稀疏和二值特性也带来模型大小相比标准卷积层最高9倍至169倍的节省。我们从理论和实验上证明，我们的局部二值卷积层是标准卷积层的良好近似。经验上，带有LBC层的CNN（称为局部二值卷积神经网络，LBCNN）在一系列视觉数据集（MNIST、SVHN、CIFAR-10和ImageNet）上达到与常规CNN同等的性能，同时享有显著的计算节省。
引用
@article{arxiv.1608.06049,
title = {Local Binary Convolutional Neural Networks},
author = {Felix Juefei-Xu and Vishnu Naresh Boddeti and Marios Savvides},
journal= {arXiv preprint arXiv:1608.06049},
year = {2017}
}
备注
To appear in CVPR 2017 as Spotlight