Gather-Excite：在卷积神经网络中利用特征上下文
计算机视觉与模式识别
2019-01-15 v3
摘要
尽管卷积神经网络（CNNs）中自下而上局部算子的使用与自然图像的某些统计特性吻合良好，但它也可能阻碍此类模型捕获上下文长程特征交互。在这项工作中，我们提出了一种简单、轻量的方法来更好地在 CNN 中利用上下文。为此我们引入了一对算子：gather，高效聚合大空间范围的特征响应；以及 excite，将池化信息重新分配到局部特征。这些算子在新增参数数量和计算复杂度上都很廉价，并且可以直接集成到现有架构中以提升其性能。在多个数据集上的实验表明，gather-excite 能以极小代价带来可与增加 CNN 深度相媲美的收益。例如，我们发现带有 gather-excite 算子的 ResNet-50 在 ImageNet 上能够超越其 101 层对应模型，且无需额外可学习参数。我们还提出了一种参数化 gather-excite 算子对，其带来了进一步的性能提升，将其与最近提出的 Squeeze-and-Excitation Networks 相关联，并分析了这些变化对 CNN 特征激活统计的影响。
引用
@article{arxiv.1810.12348,
title = {Gather-Excite: Exploiting Feature Context in Convolutional Neural Networks},
author = {Jie Hu and Li Shen and Samuel Albanie and Gang Sun and Andrea Vedaldi},
journal= {arXiv preprint arXiv:1810.12348},
year = {2019}
}
备注
NeurIPS 2018