基于主动加权映射重新审视残差卷积神经网络
计算机视觉与模式识别
2018-11-19 v1
摘要
在视觉识别中，ResNet 性能提升的关键在于通过快捷连接利用恒等映射成功建立了深层顺序卷积层的堆叠。这导致网络下存在多条数据流路径，且这些路径以相等权重合并。然而，是否应在所有路径的映射单元使用固定且预定义的权重值得质疑。本文中，我们引入主动加权映射方法，其基于输入数据的特征动态推断合适的权重值。每个映射单元的权重值并非固定，而是随输入图像改变，并且针对每个映射单元推导出最适于输入图像的权重值。为此，从快捷连接和卷积块中嵌入通道级信息，然后使用全连接层来估计映射单元的权重值。我们交替训练骨干网络与所提模块，以实现所提方法更稳定的学习。大量实验结果表明，所提方法在从 ResNet 到 DenseNet 的各种骨干架构上均成功生效。我们还通过各种数据集与基线比较，验证了所提方法的优越性与通用性。
引用
@article{arxiv.1811.06878,
title = {Residual Convolutional Neural Network Revisited with Active Weighted Mapping},
author = {Jung HyoungHo and Lee Ryong and Lee Sanghwan and Hwang Wonjun},
journal= {arXiv preprint arXiv:1811.06878},
year = {2018}
}