残差 CNDS
计算机视觉与模式识别
2016-08-09 v1
摘要
卷积神经网络如今对于任何图像分类系统都至关重要。提高 CNN 准确率的研究最多的方法之一是增加 CNN 的深度。通过堆叠更多层来增加深度，除了使计算成本高昂外，也增加了训练难度。一些研究发现，在中间层后添加辅助分支可以提高准确率。最近才解决了指定哪个中间层应具有分支的问题，即使用简单规则来检测需要辅助监督分支的中间层位置。这种技术被称为具有深度监督的卷积神经网络 (CNDS)。该技术提高了在 MIT Places 数据集和 ImageNet 上使用的直接 CNN 的分类准确率。另一方面，残差学习是最近出现的另一种技术，旨在简化非常深的 CNN 的训练。残差学习框架将层的学习从无参考函数转变为学习相对于层输入的残差函数。残差学习在 ImageNet 2015 和 COCO 竞赛中取得了最先进的结果。在本文中，我们研究了向 CNDS 网络添加残差连接的效果。我们的实验结果表明，与仅使用 CNDS 相比，准确率有所提高。
引用
@article{arxiv.1608.02201,
title = {Residual CNDS},
author = {Hussein A. Al-Barazanchi and Hussam Qassim and Abhishek Verma},
journal= {arXiv preprint arXiv:1608.02201},
year = {2016}
}