超越MACs：面向视觉骨干网络的硬件高效架构设计
计算机视觉与模式识别
2026-03-30 v1 人工智能
摘要
视觉骨干网络在现代计算机视觉中发挥核心作用。提高其效率直接受益于广泛的下游应用。为了衡量效率，许多 publications 依赖MACs(乘加运算)作为执行时间的预测指标。本文实验表明，这一指标在边缘设备背景下存在局限性。通过对比常见架构设计元素的MAC计数与执行时间，我们识别出高效执行的关键因素，提供了优化骨干设计的见解。基于这些见解，我们提出LowFormer，一套新型视觉骨干网络。LowFormer具备简化的宏观和微观设计，包括Lowtention——Multi-Head Self-Attention的轻量级替代方案。Lowtention不仅更高效，而且在ImageNet上实现更优效果。此外，我们提供LowFormer的边缘GPU版本，进一步提升了其在边缘GPU和桌面GPU上的基线速度。我们通过在较小的图像分类数据集上评估，并将其适用于几项下游任务（如目标检测、语义分割、图像检索和视觉对象跟踪），展示了LowFormer的广泛适用性。LowFormer模型在各种硬件平台上均实现了相对于最新SOTA骨干网络的显著加速。代码和模型已在 https://github.com/altair199797/LowFormer/blob/main/Beyond_MACs.md 提供。
引用
@article{arxiv.2603.26551,
title = {Beyond MACs: Hardware Efficient Architecture Design for Vision Backbones},
author = {Moritz Nottebaum and Matteo Dunnhofer and Christian Micheloni},
journal= {arXiv preprint arXiv:2603.26551},
year = {2026}
}
备注
Submitted to International Journal of Computer Vision (IJCV); currently under minor revision