面向三维医学图像重建与分割的高效折叠注意力
图像与视频处理
2023-11-28 v1 计算机视觉与模式识别
摘要
近来，基于深度神经网络的三维医学图像重建（MIR）与分割（MIS）已取得可喜进展，并进一步设计了注意力机制以捕获全局上下文信息来提升性能。然而，三维体图像的大尺寸给传统注意力方法带来了巨大的计算挑战。本文中，我们提出一种折叠注意力（FA）方法，以提升传统注意力方法在三维医学图像上的计算效率。其主要思想是通过四种排列的张量折叠与展开操作构建四个小的子亲和矩阵来近似原始亲和矩阵。通过 FA 的四个连续子注意力模块，特征张量中每个元素均可从所有其他元素聚合空间-通道信息。相比传统注意力方法，FA 在精度适度提升的同时，可大幅降低计算复杂度和 GPU 内存消耗。我们在三维 MIR 与 MIS 的两个挑战性任务——定量磁化率成像与多发性硬化病灶分割上证明了本方法的优越性。
引用
@article{arxiv.2009.05576,
title = {Efficient Folded Attention for 3D Medical Image Reconstruction and Segmentation},
author = {Hang Zhang and Jinwei Zhang and Rongguang Wang and Qihao Zhang and Pascal Spincemaille and Thanh D. Nguyen and Yi Wang},
journal= {arXiv preprint arXiv:2009.05576},
year = {2023}
}
备注
9 pages, 7 figures