RES-SE-NET：通过增强桥接连接提升Resnet性能
机器学习
2019-02-19 v1 计算机视觉与模式识别
机器学习
摘要
有效训练深度神经网络的途径之一是使用残差连接。残差连接可分为恒等连接与带重塑卷积的桥接连接。在使用去除桥接连接的基线Resnet模型于CIFAR-10与CIFAR-100数据集上的经验观察显示精度显著下降。该下降源于桥接连接以特征图形式的贡献缺失。因此桥接连接对Resnet至关重要。然而，桥接连接中所有特征图被视为同等重要。本工作提出一种升级架构“Res-SE-Net”，通过使用Squeeze-and-Excitation（SE）模块量化各特征图重要性并相应加权，进一步强化桥接连接的贡献。结果表明，在基准CIFAR-10与CIFAR-100数据集上，Res-SE-Net比Resnet与SE-Resnet泛化性好得多。
引用
@article{arxiv.1902.06066,
title = {RES-SE-NET: Boosting Performance of Resnets by Enhancing Bridge-connections},
author = {Varshaneya V and Balasubramanian S and Darshan Gera},
journal= {arXiv preprint arXiv:1902.06066},
year = {2019}
}