大规模深度卷积神经网络设计空间的探索

Forrest Iandola

大规模深度卷积神经网络设计空间的探索

计算机视觉与模式识别 2016-12-21 v1 机器学习神经与进化计算

作者: Forrest Iandola

摘要

近年来，研究界发现深度神经网络（DNN）和卷积神经网络（CNN）在广泛的机器学习问题上能够取得比以往所有解决方案更高的准确率。据我们所知，不存在单一一种 CNN/DNN 架构能最优地解决所有问题。相反，“正确的” CNN/DNN 架构因具体应用而异。CNN/DNN 构成了一个巨大的设计空间。定量来看，我们发现 CNN 设计空间中的一个小区域就包含 300 亿种不同的 CNN 架构。在本论文中，我们提出了一套能够系统性地探索 CNN 设计空间的方法论。该方法论由以下四个主题构成：1. 审慎选择基准和评价指标；2. 快速训练 CNN 模型；3. 定义和描述 CNN 设计空间；4. 探索 CNN 架构的设计空间。综合起来，这四个主题构成了一套有效的方法论，用于发现满足实际应用需求的“正确的” CNN 架构。

关键词

深度卷积神经网络设计空间探索架构搜索基准测试模型训练大规模

引用

@article{arxiv.1612.06519,
  title  = {Exploring the Design Space of Deep Convolutional Neural Networks at Large Scale},
  author = {Forrest Iandola},
  journal= {arXiv preprint arXiv:1612.06519},
  year   = {2016}
}

备注

thesis, UC Berkeley (2016)

大规模深度卷积神经网络设计空间的探索

摘要

关键词

引用

备注

相关论文