MLLA-UNet:用于医学图像分割的高效U形模型中的类Mamba线性注意力
图像与视频处理
2024-11-01 v1 计算机视觉与模式识别
摘要
医学成像的最新进展带来了更复杂和更多样的图像,面临高解剖变异性、模糊的组织边界、低器官对比度和噪声等挑战。传统分割方法难以应对这些挑战,使得深度学习方法,特别是U形架构,日益突出。然而,标准自注意力的二次复杂度使Transformer难以应用于高分辨率图像。为应对这些挑战,我们提出了MLLA-UNet(类Mamba线性注意力U形网络),一种新型架构,通过创新性地结合线性注意力与受Mamba启发的自适应机制,并辅以高效的对称采样结构以增强特征处理,实现了线性计算复杂度同时保持高分割精度。我们的架构在降低计算复杂度的同时有效保留了关键空间特征并捕获长程依赖。此外,我们引入了一种新颖的多尺度特征融合采样策略。实验表明,MLLA-UNet在六个具有挑战性的数据集上取得了最先进性能,涵盖24种不同的分割任务,包括但不限于FLARE22、AMOS CT和ACDC,平均DSC达到88.32%。这些结果凸显了MLLA-UNet相对于现有方法的优越性。我们的贡献包括新型二维分割架构及其经验验证。代码可通过https://github.com/csyfjiang/MLLA-UNet获取。
引用
@article{arxiv.2410.23738,
title = {MLLA-UNet: Mamba-like Linear Attention in an Efficient U-Shape Model for Medical Image Segmentation},
author = {Yufeng Jiang and Zongxi Li and Xiangyan Chen and Haoran Xie and Jing Cai},
journal= {arXiv preprint arXiv:2410.23738},
year = {2024}
}