利用空间瓶颈模块加速深度神经网络
计算机视觉与模式识别
2018-09-10 v1
摘要
本文提出一种名为空间瓶颈的高效模块，用于加速深度神经网络中的卷积层。其核心思想是将卷积分解为两个阶段，首先降低特征图的空间分辨率，然后将其恢复到所需大小。该操作降低了空间域中的采样密度，这与通道域中的网络加速方法相互独立且互补。使用不同的采样率，我们可以在识别准确率和模型复杂度之间进行权衡。作为基本构建块，空间瓶颈可用于替换任意单个卷积层，或两个卷积层的组合。我们通过将空间瓶颈应用于深度残差网络，实证验证了其有效性。空间瓶颈在常规和通道瓶颈残差块上分别实现了 2 倍和 1.4 倍的加速，且在识别低分辨率图像时准确率保持，在识别高分辨率图像时甚至有所提升。
引用
@article{arxiv.1809.02601,
title = {Accelerating Deep Neural Networks with Spatial Bottleneck Modules},
author = {Junran Peng and Lingxi Xie and Zhaoxiang Zhang and Tieniu Tan and Jingdong Wang},
journal= {arXiv preprint arXiv:1809.02601},
year = {2018}
}
备注
9 pages, 5 figures