USEMA:面向医学图像分割的可扩展高效类似 Mamba 注意力机制
计算机视觉与模式识别
2026-05-13 v1
摘要
准确的医学图像分割是医学图像分析流程中不可或缺的环节,要求能够整合局部与全局信息。虽然视觉Transformer能够通过标准自注意力捕获全局相互作用,但其在输入规模上的二次计算复杂度在医学图像分割任务中仍构成挑战。基于标准自注意力的扩散特性及近期Mamba形式注意力的发展,可扩展高效类似Mamba注意力(SEMA)通过局部窗口注意力实现token局部化,以避免扩散并维持聚焦,同时辅以理论上一致的算术平均运算以捕获注意力的全局层面。本文提出USEMA,一种融合卷积神经网络(CNN)局部特征提取能力与SEMA注意力的混合UNet架构。我们在多种模态和图像尺寸上进行实验,结果表明USEMA相对于基于完全自注意力的转换器模型在计算效率上具有优势,同时在纯卷积和Mamba模型基准上实现了优异的分割性能。
引用
@article{arxiv.2605.11131,
title = {USEMA: a Scalable Efficient Mamba Like Attention for Medical Image Segmentation},
author = {Elisha Dayag and Nhat Thanh Tran and Jack Xin},
journal= {arXiv preprint arXiv:2605.11131},
year = {2026}
}