通道注意力与空间注意力顺序问题复盘：顺序与并行设计的全面研究
计算机视觉与模式识别
2026-01-26 v2
摘要
注意力机制已成为深度学习模型的核心组件，其中通道注意力和空间注意力是两种最具代表性的架构。当前关于注意力融合策略的研究主要分为顺序和并行两种范式，但在选择过程上仍然缺乏系统性分析和统一原则。我们在统一框架下系统比较了通道-空间注意力的 various 组合方式，构建了一个覆盖四类（顺序、并行、多尺度和残差）的18种拓扑结构的评估套件。在两个视觉数据集和九个医疗数据集上，我们发现一种“数据规模-方法-性能”的耦合规律：(1) 在少样本任务中，通道-多尺度-空间级联结构实现最佳性能；(2) 在中等规模任务中，平行可学习融合架构表现优异；(3) 在大规模任务中，带有动态门控的平行结构效果最佳。此外，实验表明，空间-通道顺序对细粒度分类更稳定有效，而残差连接可在不同数据规模下缓解梯度消失问题。我们因此提出了基于场景的指导原则，用于构建未来注意力模块。代码已开源于 https://github.com/DWlzm。
引用
@article{arxiv.2601.07310,
title = {Revisiting the Ordering of Channel and Spatial Attention: A Comprehensive Study on Sequential and Parallel Designs},
author = {Zhongming Liu and Bingbing Jiang},
journal= {arXiv preprint arXiv:2601.07310},
year = {2026}
}