一种用于图像识别的交叉残差学习
计算机视觉与模式识别
2022-11-23 v1
摘要
ResNets 及其变体在图像识别的各个领域中发挥着重要作用。本文给出 ResNets 的另一种变体,一种称为 C-ResNets 的交叉残差学习网络,其计算量和参数量均少于 ResNets。C-ResNets 通过稠密化跳跃连接增加模块间的信息交互,并丰富了跳跃连接的作用。此外,对跳跃连接和通道数的一些精细设计可进一步降低 C-ResNets 的资源消耗并提升其分类性能。为检验 C-ResNets 的有效性,我们在实验中采用与微调 ResNets 相同的超参数设置。我们在 MNIST、FashionMnist、CIFAR-10、CIFAR-100、CALTECH-101 和 SVHN 数据集上测试了我们的 C-ResNets。与微调 ResNets 相比,C-ResNets 不仅保持了分类性能,还极大减少了计算量与参数量,大幅节省了 GPU 及 GPU 内存资源的利用率。因此,我们的 C-ResNets 在各种场景中是 ResNets 具有竞争力和可行的替代方案。代码见 https://github.com/liangjunhello/C-ResNet
引用
@article{arxiv.2211.12320,
title = {A Cross-Residual Learning for Image Recognition},
author = {Jun Liang and Songsen Yu and Huan Yang},
journal= {arXiv preprint arXiv:2211.12320},
year = {2022}
}
备注
After being added into fine training tricks and several key components from the current SOTA, the performance of C-ResNet may can be greatly improved