通过通道重评估注意力模块优化卷积神经网络
计算机视觉与模式识别
2020-10-13 v1
摘要
利用注意力机制调整通道间相互关系可提升卷积神经网络（CNNs）性能。然而，近期进展中的注意力机制未能充分利用特征图的空间信息，这对所生成通道注意力的结果影响显著。本文提出一种称为通道重评估注意力（CRA）模块的新型网络优化模块，其利用带特征图空间信息的通道注意力增强网络表征能力。我们采用 CRA 模块基于不同通道的特征图评估通道注意力，随后通过通道注意力与特征图的乘积自适应精炼最终特征。CRA 模块计算轻量，可嵌入任意 CNN 架构。在 ImageNet、CIFAR 与 MS COCO 数据集上的实验表明，在各式网络中嵌入 CRA 模块能有效提升不同评价标准下的性能。
引用
@article{arxiv.2010.05605,
title = {Convolutional Neural Network optimization via Channel Reassessment Attention module},
author = {YuTao Shen and Ying Wen},
journal= {arXiv preprint arXiv:2010.05605},
year = {2020}
}