用于网络中的网络的卷积嵌套卷积
计算机视觉与模式识别
2016-03-23 v1
摘要
网络中的网络 (NiN) 是卷积神经网络 (CNN) 的一个有效实例和重要扩展，由交替的卷积层与池化层组成。NiN 不使用线性滤波器进行卷积，而是利用浅层多层感知机 (MLP)（一种非线性函数）来替代线性滤波器。由于 MLP 与空间域中 卷积的强大能力，NiN 具有更强的特征表示能力，从而取得更好的识别率。然而，MLP 本身由全连接层构成，导致大量参数。本文提出以稀疏浅层 MLP 替代稠密浅层 MLP。该稀疏浅层 MLP 的一层或多层在通道维度或通道-空间域中稀疏连接。所提方法通过在某些计算层中对通道维度应用非共享卷积、对空间维度应用共享卷积来实现。该方法称为 CiC。在 CIFAR10 数据集、增强 CIFAR10 数据集及 CIFAR100 数据集上的实验结果证明了所提 CiC 方法的有效性。
引用
@article{arxiv.1603.06759,
title = {Convolution in Convolution for Network in Network},
author = {Yanwei Pang and Manli Sun and Xiaoheng Jiang and Xuelong Li},
journal= {arXiv preprint arXiv:1603.06759},
year = {2016}
}
备注
A method of Convolutional Neural Networks