只需少许移位：设计用于图像分类的高效卷积神经网络
计算机视觉与模式识别
2019-03-14 v1
摘要
移位操作是深度可分离卷积的一种高效替代。然而，其仍受限于实现方式，即内存移动。为推进该方向，本文引入一种新颖的基本组件——稀疏移位层（SSL）来构建高效卷积神经网络。在该系列架构中，基本块仅由 1x1 卷积层构成，并对中间特征图施加少许移位操作。为使该思路可行，我们在优化中引入移位操作惩罚，并进一步提出量化感知移位学习方法，使学到的位移更利于推理。大量消融研究表明，仅少许移位操作便足以提供空间信息通信。此外，为最大化 SSL 的作用，我们重新设计了一种改进网络架构以充分挖掘神经网络的有限容量（FE-Net）。配备 SSL 后，该网络在 ImageNet 上仅以 563M M-Adds 即达到 75.0% 的 top-1 准确率，在准确率与实际速度上均超越由深度可分离卷积构建的其他对照网络以及由 NAS 搜索的网络。
引用
@article{arxiv.1903.05285,
title = {All You Need is a Few Shifts: Designing Efficient Convolutional Neural Networks for Image Classification},
author = {Weijie Chen and Di Xie and Yuan Zhang and Shiliang Pu},
journal= {arXiv preprint arXiv:1903.05285},
year = {2019}
}
备注
CVPR2019