GhostNetV2：以长程注意力增强廉价操作
计算机视觉与模式识别
2022-11-24 v1
摘要
轻量级卷积神经网络（CNNs）专为移动设备上具有更快推理速度的应用而设计。卷积操作只能捕获窗口区域内的局部信息，这阻碍了性能的进一步提升。将自注意力引入卷积可以很好地捕获全局信息，但会大幅拖慢实际速度。在本文中，我们提出了一种硬件友好的注意力机制（称为 DFC 注意力），进而提出了一种用于移动应用的新架构 GhostNetV2。所提出的 DFC 注意力基于全连接层构建，不仅能在常见硬件上快速执行，还能捕获长程像素之间的依赖关系。我们进一步重新审视了先前 GhostNet 中的表达能力瓶颈，并提出用 DFC 注意力增强由廉价操作产生的扩展特征，从而使 GhostNetV2 模块能够同时聚合局部和长程信息。大量实验证明了 GhostNetV2 相对于现有架构的优越性。例如，它在 ImageNet 上以 167M FLOPs 实现了 75.3% 的 top-1 准确率，以相近的计算成本显著压制了 GhostNetV1（74.5%）。源代码将发布于 https://github.com/huawei-noah/Efficient-AI-Backbones/tree/master/ghostnetv2_pytorch 和 https://gitee.com/mindspore/models/tree/master/research/cv/ghostnetv2。
引用
@article{arxiv.2211.12905,
title = {GhostNetV2: Enhance Cheap Operation with Long-Range Attention},
author = {Yehui Tang and Kai Han and Jianyuan Guo and Chang Xu and Chao Xu and Yunhe Wang},
journal= {arXiv preprint arXiv:2211.12905},
year = {2022}
}
备注
This paper is accepted by NeurIPS 2022 (Spotlight)