Rega-Net:用于深度卷积神经网络的视网膜Gabor注意力
计算机视觉与模式识别
2023-06-21 v2
摘要
大量研究工作表明,卷积神经网络(CNNs)中的注意力机制有效提升了准确率。然而,极少有工作利用大感受野设计注意力机制。本文中,我们提出一种名为 Rega-Net 的新型注意力方法,通过扩大感受野来提升 CNN 准确率。受人类视网膜机制启发,我们设计的卷积核类似于人类视网膜非均匀分布的结构。然后,我们在 Gabor 函数分布中采样变分辨率值并填入类视网膜核中。该分布使得关键特征在感受野的中心位置更为显著。我们进一步设计了包含这些类视网膜核的注意力模块。实验表明,我们的 Rega-Net 在 ImageNet-1K 分类上达到 79.96% 的 top-1 准确率,在 COCO2017 目标检测上达到 43.1% 的 mAP。与基线网络相比,Rega-Net 的 mAP 最高提升了 3.5%。
引用
@article{arxiv.2211.12698,
title = {Rega-Net:Retina Gabor Attention for Deep Convolutional Neural Networks},
author = {Chun Bao and Jie Cao and Yaqian Ning and Yang Cheng and Qun Hao},
journal= {arXiv preprint arXiv:2211.12698},
year = {2023}
}