既不快速也不正确——QuickProp在深度神经网络学习中的评估
计算机视觉与模式识别
2016-06-16 v2
摘要
神经网络,尤其是卷积神经网络,在当前的计算机视觉研究中备受关注。然而,过去发表了许多尚未被当前方法所使用的技术、扩展和修改。在本文中,我们研究了一种名为 QuickProp 的方法在训练深度神经网络中的应用。特别地,我们将 QuickProp 应用于全卷积网络在语义分割任务中的学习与测试过程。我们将 QuickProp 与当前的标准方法梯度下降进行了经验性比较。实验表明,在语义分割等复杂的计算机视觉任务中,QuickProp 无法与标准的梯度下降技术相竞争。
引用
@article{arxiv.1606.04333,
title = {Neither Quick Nor Proper -- Evaluation of QuickProp for Learning Deep Neural Networks},
author = {Clemens-Alexander Brust and Sven Sickert and Marcel Simon and Erik Rodner and Joachim Denzler},
journal= {arXiv preprint arXiv:1606.04333},
year = {2016}
}
备注
Technical Report, 11 pages, 6 figures