AutoFCL:自动调整全连接层以处理小数据集
计算机视觉与模式识别
2021-01-29 v4 机器学习
图像与视频处理
摘要
深度卷积神经网络(CNN)由于能够直接从输入图像中学习特定问题的特征,在过去几年中已发展成为用于图像分类的流行机器学习模型。深度学习模型的成功催生了架构工程,而非手工设计特征。然而,针对给定任务设计最先进的CNN仍然是一项重要且具挑战性的任务,尤其是在训练数据量较少时。为解决这一现象,迁移学习已被广泛采用。在将学到的知识从一个任务迁移到另一个任务时,使用依赖于目标的全连接(FC)层进行微调通常能在目标任务上产生更好的结果。本文提出的AutoFCL模型尝试利用贝叶斯优化自动学习CNN的FC层结构。为评估所提AutoFCL的性能,我们使用了五种预训练CNN模型,如VGG-16、ResNet、DenseNet、MobileNet和NASNetMobile。实验在三个基准数据集上进行,即CalTech-101、Oxford-102 Flowers和UC Merced Land Use数据集。根据本研究开展的实验,微调新学习的(依赖于目标的)FC层可取得最先进的性能。所提AutoFCL方法在CalTech-101和Oxford-102 Flowers数据集上分别以94.38%和98.89%的准确率优于现有方法。然而,我们的方法在UC Merced Land Use数据集上取得了可比的性能,准确率为96.83%。本研究的源代码可在 https://github.com/shabbeersh/AutoFCL 获取。
引用
@article{arxiv.2001.11951,
title = {AutoFCL: Automatically Tuning Fully Connected Layers for Handling Small Dataset},
author = {S. H. Shabbeer Basha and Sravan Kumar Vinakota and Shiv Ram Dubey and Viswanath Pulabaigari and Snehasis Mukherjee},
journal= {arXiv preprint arXiv:2001.11951},
year = {2021}
}
备注
This paper is published in Neural Computing & Applications Journal