通道局部性模块：Squeeze-and-Excitation 的一种变体
机器学习
2019-01-08 v1 计算机视觉与模式识别
机器学习
摘要
注意力机制是深度学习领域的热点。使用通道注意力模型是提升卷积神经网络性能的有效方法。Squeeze-and-Excitation 模块利用通道依赖性，有选择地强调重要通道并压缩相对无用的通道。本文中，我们提出了一种基于通道局部性的 SE 模块变体。我们采用卷积层来学习邻近通道间的相关性，而非使用全连接层来挖掘全局通道依赖性。我们将这一新算法称为通道局部性（C-Local）模块。我们在 cifar-10 数据集上将 SE 模块与 C-Local 模块应用于不同 CNN 架构来进行评估。我们观察到 C-Local 模块取得了比 SE 模块更高的准确率。
引用
@article{arxiv.1901.01493,
title = {Channel Locality Block: A Variant of Squeeze-and-Excitation},
author = {Huayu Li},
journal= {arXiv preprint arXiv:1901.01493},
year = {2019}
}