clcNet:利用通道局部卷积提升卷积神经网络效率
计算机视觉与模式识别
2018-03-28 v3
摘要
深度可分离卷积与分组卷积已成功应用于提升卷积神经网络(CNN)的效率。我们指出,这些模型可视为一种广义卷积操作——通道局部卷积(CLC)的特殊情形,其中每个输出通道由输入通道的一个子集计算得到。该定义引入了输入与输出通道之间的计算依赖关系,可用通道依赖图(CDG)表示。通过修改分组卷积的 CDG,我们构建了一种新的 CLC 核,称为交错分组卷积(IGC)。将 IGC 与 GC 核堆叠,得到一个用于近似常规卷积的卷积块(称为 CLC 块)。借助 CDG 作为分析工具,我们推导了设置 IGC 与 GC 元参数的规则以及最小化计算成本的框架。随后使用 CLC 块构建了名为 clcNet 的新 CNN 模型,在 ImageNet-1K 数据集上的测试表明,其与最先进网络相比具有显著更高的计算效率和更少的参数量。源代码见 https://github.com/dqzhang17/clcnet.torch。
引用
@article{arxiv.1712.06145,
title = {clcNet: Improving the Efficiency of Convolutional Neural Network using Channel Local Convolutions},
author = {Dong-Qing Zhang},
journal= {arXiv preprint arXiv:1712.06145},
year = {2018}
}