基于注意力滤波的多维度Transformer用于医学图像分割
计算机视觉与模式识别
2024-05-22 v1
摘要
医学图像的精确分割对于诊断和治疗疾病至关重要。最近的研究表明，基于视觉Transformer的方法在医学图像分割中显著提高了性能，这主要是由于它们在特征之间建立全局关系以及适应各种输入方面的卓越能力。然而，这些方法难以处理医学图像固有的低信噪比。此外，对于医学图像分割至关重要的通道和空间信息的有效利用受到自注意力表示能力的限制。为了解决这些挑战，我们提出了一种带有基于注意力的滤波的多维度Transformer（MDT-AF），它重新设计了用于医学图像分割的补丁嵌入和自注意力机制。MDT-AF将基于注意力的特征过滤机制纳入补丁嵌入块，并采用从粗到细的过程来减轻低信噪比的影响。为了更好地捕捉医学图像中的复杂结构，MDT-AF扩展了自注意力机制以纳入空间和通道维度，丰富了特征表示。此外，我们引入了一种交互机制来改善空间和通道维度之间的特征聚合。在三个公共医学图像分割基准上的实验结果表明，MDT-AF实现了最先进的（SOTA）性能。
引用
@article{arxiv.2405.12328,
title = {Multi-dimension Transformer with Attention-based Filtering for Medical Image Segmentation},
author = {Wentao Wang and Xi Xiao and Mingjie Liu and Qing Tian and Xuanyao Huang and Qizhen Lan and Swalpa Kumar Roy and Tianyang Wang},
journal= {arXiv preprint arXiv:2405.12328},
year = {2024}
}