通过核尺度缩放加速卷积神经网络训练
计算机视觉与模式识别
2016-10-13 v1
摘要
训练深度卷积神经网络(CNN)是一个耗时的任务,可能需要数周才能完成。本文提出一种新颖且在理论上有依据的方法,用于在不损失精度的情况下减少CNN训练时间。基本思想是使用较低分辨率的内核和输入图像进行预训练网络,然后通过利用卷积的空间比例属性在全分辨率下进行细化。我们将方法应用到Imagenet获奖者OverFeat以及更近期的ResNet架构中,显示在两种情况下训练时间几乎减少20%,同时保持测试集准确率。
引用
@article{arxiv.1610.03623,
title = {Fast Training of Convolutional Neural Networks via Kernel Rescaling},
author = {Pedro Porto Buarque de Gusmão and Gianluca Francini and Skjalg Lepsøy and Enrico Magli},
journal= {arXiv preprint arXiv:1610.03623},
year = {2016}
}