深度卷积神经网络设计模式
机器学习
2016-11-15 v3 计算机视觉与模式识别
神经与进化计算
摘要
深度学习领域的近期研究产生了大量新架构。与此同时，越来越多的团队将深度学习应用于新场景。其中部分团队可能由缺乏经验的深度学习从业者组成，他们被令人眼花缭乱的架构选择所困惑，因此选择使用较旧的架构（即Alexnet）。在此，我们试图通过挖掘近期深度学习研究中包含的集体知识，来发现设计神经网络架构的基本准则，从而弥合这一差距。此外，我们描述了几种架构创新，包括分形分形网络（Fractal of FractalNet network）、阶段提升网络（Stagewise Boosting Networks）和泰勒级数网络（Taylor Series Networks）（我们的Caffe代码和prototxt文件可在 https://github.com/iPhysicist/CNNDesignPatterns 获取）。我们希望他人受到启发，在我们初步工作的基础上继续构建。
引用
@article{arxiv.1611.00847,
title = {Deep Convolutional Neural Network Design Patterns},
author = {Leslie N. Smith and Nicholay Topin},
journal= {arXiv preprint arXiv:1611.00847},
year = {2016}
}
备注
Submitted as a conference paper at ICLR 2017