DA$^{\textbf{2}}$-Net：多样且自适应注意力卷积神经网络
计算机视觉与模式识别
2021-11-29 v1 人工智能
摘要
标准的卷积神经网络（CNN）设计很少关注显式捕获多样特征以提升网络性能的重要性。相反，大多数现有方法遵循间接思路，即增加或调整网络的深度和宽度，这在许多情况下会显著增加计算成本。受生物视觉系统启发，我们提出一种多样且自适应注意力卷积网络（DA-Net），它使任何前馈 CNN 都能显式捕获多样特征，并自适应地选择并强调最具信息量的特征，从而高效提升网络性能。DA-Net 带来的计算开销可忽略不计，且设计上易于与任何 CNN 架构集成。我们在包括 CIFAR100、SVHN 和 ImageNet 在内的基准数据集上，使用多种 CNN 架构对 DA-Net 进行了广泛评估。实验结果表明，DA-Net 以极小的计算开销显著提升了性能。
引用
@article{arxiv.2111.13157,
title = {DA$^{\textbf{2}}$-Net : Diverse & Adaptive Attention Convolutional Neural Network},
author = {Abenezer Girma and Abdollah Homaifar and M Nabil Mahmoud and Xuyang Yan and Mrinmoy Sarkar},
journal= {arXiv preprint arXiv:2111.13157},
year = {2021}
}