中文

SMAFormer:用于医学图像分割的协同多注意力 Transformer

计算机视觉与模式识别 2026-05-26 v5

摘要

在医学图像分割中,专门的计算机视觉技术,特别是基于注意力机制的 Transformer 和采用跳跃连接的残差网络,在提升性能方面发挥了重要作用。尽管如此,以往的模型在分割小的、形状不规则的肿瘤时常常表现不佳。为此,我们引入了 SMAFormer,这是一种高效的、基于 Transformer 的架构,它融合了多种注意力机制以增强对小肿瘤和器官的分割。SMAFormer 能够捕获医学图像分割的局部和全局特征。该架构包含两个关键组件。首先,提出了一个协同多注意力(SMA)Transformer 块,它具有像素注意力、通道注意力和空间注意力的优势,用于特征增强。其次,为了解决在注意力机制转换和特征融合过程中发生的信息丢失挑战,我们设计了一个特征融合调制器。该模块通过减轻由重塑引起的信息损耗来加强通道注意力和空间注意力之间的整合。为了评估我们的方法,我们在各种医学图像分割任务上进行了广泛的实验,包括多器官、肝肿瘤和膀胱肿瘤分割,取得了最先进的结果。代码和模型可在以下网址获取:https://github.com/lzeeorno/SMAFormer。

关键词

引用

@article{arxiv.2409.00346,
  title  = {SMAFormer: Synergistic Multi-Attention Transformer for Medical Image Segmentation},
  author = {Fuchen Zheng and Xuhang Chen and Weihuang Liu and Haolun Li and Yingtie Lei and Jiahui He and Chi-Man Pun and Shounjun Zhou},
  journal= {arXiv preprint arXiv:2409.00346},
  year   = {2026}
}

备注

Accepted by IEEE BIBM 2024