中文

Rega-Net:用于深度卷积神经网络的视网膜Gabor注意力

计算机视觉与模式识别 2023-06-21 v2

摘要

大量研究工作表明,卷积神经网络(CNNs)中的注意力机制有效提升了准确率。然而,极少有工作利用大感受野设计注意力机制。本文中,我们提出一种名为 Rega-Net 的新型注意力方法,通过扩大感受野来提升 CNN 准确率。受人类视网膜机制启发,我们设计的卷积核类似于人类视网膜非均匀分布的结构。然后,我们在 Gabor 函数分布中采样变分辨率值并填入类视网膜核中。该分布使得关键特征在感受野的中心位置更为显著。我们进一步设计了包含这些类视网膜核的注意力模块。实验表明,我们的 Rega-Net 在 ImageNet-1K 分类上达到 79.96% 的 top-1 准确率,在 COCO2017 目标检测上达到 43.1% 的 mAP。与基线网络相比,Rega-Net 的 mAP 最高提升了 3.5%。

关键词

引用

@article{arxiv.2211.12698,
  title  = {Rega-Net:Retina Gabor Attention for Deep Convolutional Neural Networks},
  author = {Chun Bao and Jie Cao and Yaqian Ning and Yang Cheng and Qun Hao},
  journal= {arXiv preprint arXiv:2211.12698},
  year   = {2023}
}