用于高效卷积神经网络的基于位移的原语
计算机视觉与模式识别
2018-09-28 v2 机器学习
摘要
我们提出一组三种基于位移的原语，用于构建高效的紧凑 CNN 架构。这三种原语（通道位移、地址位移、捷径位移）能在保持预测精度的同时降低 GPU 上的推理时间。这些基于位移的原语仅移动指针而避免内存拷贝，因此非常快。例如，通道位移操作比 ShuffleNet 中的通道混洗快 12.7 倍且达到相同精度。地址位移与通道位移可合并入逐点分组卷积，仅调用单次核函数，花费极少时间完成空间卷积与通道位移。捷径位移通过预先分配空间实现残差连接，不耗时。我们将这些基于位移的原语与逐点分组卷积融合，构建了两个推理高效的 CNN 架构 AddressNet 与 Enhanced AddressNet。在 CIFAR100 与 ImageNet 数据集上的实验表明，我们的模型更快且取得相当或更好的精度。
引用
@article{arxiv.1809.08458,
title = {Shift-based Primitives for Efficient Convolutional Neural Networks},
author = {Huasong Zhong and Xianggen Liu and Yihui He and Yuchun Ma},
journal= {arXiv preprint arXiv:1809.08458},
year = {2018}
}