卷积神经网络架构的分析与优化
计算机视觉与模式识别
2017-08-01 v1
摘要
自 Alex Krizhevsky 证明卷积神经网络(CNN)可被有效训练并将 ImageNet 大规模视觉识别挑战赛的 top-5 错误率从 26.2% 降至 15.3% 以来,CNN 主导了各类计算机视觉任务。许多出版物探讨了 CNN 的诸多方面,但关于神经网络架构分析与构建的文献却十分稀少。本研究旨在弥合这一差距。本文全面概述了现有的 CNN 分析与拓扑构建技术,并开发了一种利用混淆矩阵可视化分类错误的新方法。基于该方法,描述并评估了层次分类器。此外,在 CIFAR-100 数据集上确认并量化了一些结果,例如较小的批量大小、平均集成、数据增强和测试时变换对准确率的积极影响。而其他结果,如学习到的颜色变换对测试准确率的积极影响,则未能得到确认。本文开发了一个模型,对于 32x32x3 的输入尺寸和 100 个类别,仅含一百万个学习参数,并在基准数据集 Asirra、GTSRB、HASYv2 和 STL-10 上超越了当时的最优水平。
引用
@article{arxiv.1707.09725,
title = {Analysis and Optimization of Convolutional Neural Network Architectures},
author = {Martin Thoma},
journal= {arXiv preprint arXiv:1707.09725},
year = {2017}
}
备注
Master's thesis. 73 pages + 24 pages appendix; 39 figures; 33 tables