TransDAE:层次化Transformer中的双注意力机制用于高效医学图像分割
计算机视觉与模式识别
2024-09-04 v1 人工智能
摘要
在医疗保健领域,医学图像分割对于准确疾病诊断和制定有效治疗方案至关重要。早期检测可显著有助于管理疾病并潜在地防止其恶化。机器学习,特别是深度卷积神经网络,已成为解决分割挑战的有前景的 метод。传统方法如U-Net使用编码块进行局部表示建模,并使用解码块来揭示语义关系。然而,这些模型常常难以处理多尺度物体,由于纹理和形状存在显著变化,并且经常无法捕获输入数据中的长程依赖关系。为此提出的Transformer用于序列到序列预测,利用全局自注意力机制。然而,它们有时缺乏精确的局部分辨 due to 细节不足。为克服这些限制,我们引入TransDAE:一种重新构建自注意力机制以包括整个特征空间中的空间和通道关联的新方法,同时保持计算效率。此外,TransDAE通过增强跳过连接通道中的跨尺度交互模块来提升跨尺度特征复用,从而提高局部分辨准确性。值得注意的是,TransDAE在不依赖预训练权重的情况下,就在Synaps多器官数据集上超越了现有最先进的方法。
引用
@article{arxiv.2409.02018,
title = {TransDAE: Dual Attention Mechanism in a Hierarchical Transformer for Efficient Medical Image Segmentation},
author = {Bobby Azad and Pourya Adibfar and Kaiqun Fu},
journal= {arXiv preprint arXiv:2409.02018},
year = {2024}
}