Shift:一种零 FLOP、零参数的空间卷积替代方案
计算机视觉与模式识别
2017-12-05 v2
摘要
神经网络依赖卷积来聚合空间信息。然而,空间卷积在模型规模和计算量上代价高昂,二者均随卷积核大小呈二次增长。本文提出一种无参数、无 FLOP 的“shift”操作作为空间卷积的替代。我们将 shift 与逐点卷积融合,构建端到端可训练的基于 shift 的模块,其超参数刻画精度与效率之间的权衡。为证明该操作的有效性,我们将 ResNet 的 3x3 卷积替换为基于 shift 的模块,以少 60% 的参数在 CIFAR10 和 CIFAR100 上取得更高精度;我们还进一步展示了该操作在 ImageNet 上对参数缩减的鲁棒性,优于 ResNet 系列模型。最后,我们展示了 shift 操作跨领域的适用性,在分类、人脸验证和风格迁移上以更少参数取得强劲性能。
引用
@article{arxiv.1711.08141,
title = {Shift: A Zero FLOP, Zero Parameter Alternative to Spatial Convolutions},
author = {Bichen Wu and Alvin Wan and Xiangyu Yue and Peter Jin and Sicheng Zhao and Noah Golmant and Amir Gholaminejad and Joseph Gonzalez and Kurt Keutzer},
journal= {arXiv preprint arXiv:1711.08141},
year = {2017}
}
备注
Source code will be released afterwards