多残差网络：提升残差网络的速度与准确率
计算机视觉与模式识别
2024-10-30 v4
摘要
在本文中，我们朝着理解深度残差网络的学习行为迈出了一步，并支持了深度残差网络表现得像集成这一观察。我们提出了一种新的卷积神经网络架构，该架构基于残差网络的成功，通过显式利用将极深网络解释为集成来构建。所提出的多残差网络增加了残差块中残差函数的数量。我们的架构生成的模型更宽而非更深，这显著提高了准确率。我们表明，我们的模型在CIFAR-10和CIFAR-100上分别实现了3.73%和19.45%的错误率，优于几乎所有现有模型。我们还证明，在完整的ImageNet 2012分类数据集上，我们的模型比极深残差网络的top-1错误率低0.22%。此外，受多残差网络并行结构的启发，我们研究了一种模型并行技术。该模型并行方法将残差块的计算分布到多个处理器上，产生了高达15%的计算复杂度改进。
引用
@article{arxiv.1609.05672,
title = {Multi-Residual Networks: Improving the Speed and Accuracy of Residual Networks},
author = {Masoud Abdi and Saeid Nahavandi},
journal= {arXiv preprint arXiv:1609.05672},
year = {2024}
}
备注
This work has been submitted to the IEEE for possible publication