全连接层对用于图像分类的卷积神经网络性能的影响
计算机视觉与模式识别
2019-11-20 v3 机器学习
神经与进化计算
图像与视频处理
摘要
卷积神经网络（CNNs）在计算机视觉等领域中，因其能从原始输入数据学习特定问题的特征，大多减少了对手工特征的需求。然而，选择特定于数据集的 CNN 架构（主要通过经验或专业知识完成）是一个耗时且易出错的过程。为自动化学习 CNN 架构的过程，本文试图寻找全连接（FC）层与数据集某些特性之间的关系。CNN 架构以及近来的数据集被归类为深、浅、宽等。本文试图形式化这些术语，并回答以下问题：（i）更深/更浅架构相对于 FC 层对 CNN 性能有何影响？（ii）更深/更宽数据集如何相对于 FC 层影响 CNN 性能？（iii）哪类架构（更深/更浅）更适合哪类（更深/更宽）数据集。为得到这些发现，我们使用三种不同深度的 CNN 架构进行了实验，并通过改变 FC 层的数量来开展实验。我们使用四个广泛使用的数据集，包括 CIFAR-10、CIFAR-100、Tiny ImageNet 和 CRCHistoPhenotypes，以在图像分类问题背景下佐证我们的发现。本研究的源代码可在 https://github.com/shabbeersh/Impact-of-FC-layers 获取。
引用
@article{arxiv.1902.02771,
title = {Impact of Fully Connected Layers on Performance of Convolutional Neural Networks for Image Classification},
author = {S. H. Shabbeer Basha and Shiv Ram Dubey and Viswanath Pulabaigari and Snehasis Mukherjee},
journal= {arXiv preprint arXiv:1902.02771},
year = {2019}
}
备注
This paper is accepted for publication in Neurocomputing Journal