用于高效CNN的级联子块网络
计算机视觉与模式识别
2016-03-02 v1
摘要
传统的卷积神经网络(CNN)使用线性或非线性滤波器从空间尺寸为的图像块(区域)提取特征(通常较小且等于,例如为5或7)。一般地,滤波器尺寸等于输入块尺寸。我们认为等尺寸策略的表示能力不够强。为克服该缺陷,我们提出使用空间尺寸小于的子块滤波器。所提子块滤波器由两个后续滤波器组成。第一个是空间尺寸的线性滤波器,旨在从空间域提取特征。第二个空间尺寸为,用于加强不同输入特征通道之间的联系并减少参数数量。子块滤波器与输入块卷积,所得网络称为子块网络。以一个子块网络的输出作为输入,我们进一步重复构造子块网络直到输出在空间域仅包含一个神经元。这些子块网络形成称为级联子块网络(CSNet)的新网络。CSNet生成的特征层称为csconv层。对于整个输入图像,我们通过堆叠一系列csconv层构建深度神经网络。在四个基准数据集上的实验结果证明了所提CSNet的有效性和紧凑性。例如,我们的CSNet在CIFAR10数据集上无需模型平均即达到测试误差。据我们所知,这是在CIFAR10数据集上获得的最佳结果。
引用
@article{arxiv.1603.00128,
title = {Cascaded Subpatch Networks for Effective CNNs},
author = {Xiaoheng Jiang and Yanwei Pang and Manli Sun and Xuelong Li},
journal= {arXiv preprint arXiv:1603.00128},
year = {2016}
}