CAT：从多信息融合中学习通道与空间注意力的协作
计算机视觉与模式识别
2022-12-14 v1
摘要
通道与空间注意力机制已被证明能显著提升深度卷积神经网络（CNNs）的性能。现有多数方法关注其中一种或将它们并行（串行）运行，忽视了两类注意力间的协作。为更好地建立两类注意力间的特征交互，我们提出一个即插即用的注意力模块，称为“CAT”——基于学习到的特征激活空间与通道注意力间的协作（Collaboration between spatial and channel Attentions based on learned Traits）。具体而言，我们将特征表示为可训练系数（即colla-factors），以自适应地组合不同注意力模块的贡献，从而更好地适配不同图像层级与任务。此外，除全局平均池化（GAP）与全局最大池化（GMP）算子外，我们提出全局熵池化（GEP），其通过度量特征图的信息无序度来有效抑制噪声信号。我们将三路池化操作引入注意力模块，并应用自适应机制融合其输出。在MS COCO、Pascal-VOC、Cifar-100和ImageNet上的大量实验表明，我们的CAT在目标检测、实例分割和图像分类上优于现有SOTA注意力机制。模型与代码将很快发布。
引用
@article{arxiv.2212.06335,
title = {CAT: Learning to Collaborate Channel and Spatial Attention from Multi-Information Fusion},
author = {Zizhang Wu and Man Wang and Weiwei Sun and Yuchen Li and Tianhao Xu and Fan Wang and Keke Huang},
journal= {arXiv preprint arXiv:2212.06335},
year = {2022}
}
备注
8 pages, 5 figures