用于医学图像分割的双重交叉注意力
计算机视觉与模式识别
2024-08-02 v1 机器学习
图像与视频处理
摘要
我们提出双重交叉注意力（DCA），一种简单而有效的注意力模块，能够增强基于U-Net架构中用于医学图像分割的跳跃连接。DCA通过依次捕获多尺度编码器特征间的通道与空间依赖，解决编码器与解码器特征间的语义鸿沟。首先，通道交叉注意力（CCA）利用多尺度编码器特征的通道令牌间的交叉注意力提取全局通道依赖。随后，空间交叉注意力（SCA）模块执行交叉注意力以捕获空间令牌间的空间依赖。最后，这些细粒度编码器特征被上采样并连接至相应解码器部分以构成跳跃连接方案。所提DCA模块可集成于任何带跳跃连接的编解码器架构（如U-Net及其变体）。我们将DCA模块集成至六种基于U-Net的架构（U-Net、V-Net、R2Unet、ResUnet++、DoubleUnet与MultiResUnet）中进行测试。DCA模块在GlaS、MoNuSeg、CVC-ClinicDB、Kvasir-Seg与Synapse数据集上分别实现Dice分数提升达2.05%、2.74%、1.37%、1.12%与1.44%。代码见：https://github.com/gorkemcanates/Dual-Cross-Attention
引用
@article{arxiv.2303.17696,
title = {Dual Cross-Attention for Medical Image Segmentation},
author = {Gorkem Can Ates and Prasoon Mohan and Emrah Celik},
journal= {arXiv preprint arXiv:2303.17696},
year = {2024}
}
备注
Code: https://github.com/gorkemcanates/Dual-Cross-Attention