面向 3D 生物医学图像分割的动态线性 Transformer

基于 Transformer 的神经网络凭借自注意力机制对全局信息的更好建模，在许多生物医学图像分割任务上取得了优异性能。然而，多数方法仍针对 2D 医学图像设计，忽略了本质的 3D 体数据信息。3D 基于 Transformer 的分割方法的主要挑战在于自注意力机制引入的二次复杂度 \cite{vaswani2017attention}。本文提出一种用于 3D 医学图像分割的新型 Transformer 架构，采用编码–解码风格结构且具有线性复杂度。此外，我们新引入动态 token 概念以进一步减少自注意力计算的 token 数量。利用全局信息建模优势，我们从不同层级阶段提供不确定性图。我们在多个具挑战性的 CT 胰腺分割数据集上评估了该方法。 promising 的结果表明，我们新颖的基于 3D Transformer 的分割器借助单标注即可提供 promising 且高度可行的分割性能与准确的不确定性量化。代码见 https://github.com/freshman97/LinTransUNet。