UNETR++：探究高效且精确的三维医学图像分割
计算机视觉与模式识别
2024-05-07 v3
摘要
得益于 transformer 模型的成功，近期工作研究了它们在三维医学分割任务中的适用性。在 transformer 模型中，自注意力机制是力图捕捉长程依赖的主要构建模块之一。然而，自注意力操作具有二次复杂度，这被证明是一个计算瓶颈，尤其在体积医学成像中，其输入为具有大量切片的三维数据。本文中，我们提出一种名为 UNETR++ 的三维医学图像分割方法，该方法在分割掩码质量以及参数、计算成本和推理速度的效率方面均有优势。我们设计的核心在于引入一种新颖的高效配对注意力（EPA）块，其利用基于空间与通道注意力的一对相互依赖分支高效学习空间与通道判别特征。我们的空间注意力公式具有效率，相对于输入序列长度呈线性复杂度。为实现空间与通道聚焦分支间的通信，我们共享查询与键映射函数的权重，从而提供互补收益（配对注意力），同时减少整体网络参数。我们在五个基准（Synapse、BTCV、ACDC、BRaTs 和 Decathlon-Lung）上的广泛评估揭示了我们的贡献在效率与准确性方面的有效性。在 Synapse 上，我们的 UNETR++ 以 87.2% 的 Dice 分数刷新了最优性能，同时显著高效，与文献中最佳方法相比参数和 FLOPs 均减少逾 71%。代码：https://github.com/Amshaker/unetr_plus_plus。
引用
@article{arxiv.2212.04497,
title = {UNETR++: Delving into Efficient and Accurate 3D Medical Image Segmentation},
author = {Abdelrahman Shaker and Muhammad Maaz and Hanoona Rasheed and Salman Khan and Ming-Hsuan Yang and Fahad Shahbaz Khan},
journal= {arXiv preprint arXiv:2212.04497},
year = {2024}
}
备注
Accepted at IEEE TMI-2024