卷积神经网络中的金字塔结构探讨
计算机视觉与模式识别
2016-08-16 v1
摘要
深度卷积神经网络（CNN）无疑为各种挑战性任务带来了革命，尤其是在计算机视觉领域。然而，其模型设计仍需关注如何在不大幅降低性能的前提下减少可学习参数的数量。本文探讨了CNN能在多大程度上利用生物神经元典型的金字塔结构。我们引入了一个从输入层到全连接层的卷积层的广义表述，这有助于进一步理解和设计成功的深度网络。该表述在保持整体精度的同时，减少了歧义、参数数量及其磁盘存储大小。在MNIST、Cifar-10、Cifar-100和ImageNet-12数据集上的最先进模型上展示了性能。尽管Caffe_LENET的参数减少了80%以上，仍取得了具有挑战性的结果。此外，尽管AlexNet模型及其变体的训练数据减少了10-20%，参数减少了10-40%，与精心设计的类似更深架构相比，仍取得了有竞争力的结果。
引用
@article{arxiv.1608.04064,
title = {About Pyramid Structure in Convolutional Neural Networks},
author = {Ihsan Ullah and Alfredo Petrosino},
journal= {arXiv preprint arXiv:1608.04064},
year = {2016}
}
备注
Published in 2016 International Joint Conference on Neural Networks (IJCNN)