用于图像分类的金字塔 RoR
计算机视觉与模式识别
2017-10-03 v1
摘要
残差网络的残差网络 在图像分类任务中表现出优异的性能,但急剧增加特征图通道的数量使得特征信息传输不连贯,丢失了部分与分类预测相关的信息,从而限制了分类性能。本文通过分析 RoR 的性能特点并结合 PyramidNet,提出了一种金字塔 RoR 网络模型。首先,基于 RoR,设计了通道逐渐增加的金字塔 RoR 网络模型。其次,我们分析了不同残差块结构对性能的影响,并选择了最有利于分类性能的残差块结构。最后,我们加入了一个重要原则以进一步优化金字塔 RoR 网络,使用 drop-path 来避免过拟合并节省训练时间。本文在 CIFAR-10/100 和 SVHN 数据集上进行了图像分类实验,我们取得的当前最低分类错误率分别为 2.96%、16.40% 和 1.59%。实验表明,金字塔 RoR 网络优化方法能够提升不同数据集上的网络性能,并有效抑制 DCNN 训练中的梯度消失问题。
引用
@article{arxiv.1710.00307,
title = {Pyramidal RoR for Image Classification},
author = {Ke Zhang and Liru Guo and Ce Gao and Zhenbing Zhao},
journal= {arXiv preprint arXiv:1710.00307},
year = {2017}
}
备注
submit to Cluster Computing