中文

TransAttUnet:用于医学图像分割的带 Transformer 的多级注意力引导 U-Net

图像与视频处理 2022-07-12 v2 计算机视觉与模式识别

摘要

从医学图像中准确分割器官或病灶对于疾病的可靠诊断和器官形态测量至关重要。近年来,卷积编解码器方案在自动医学图像分割领域取得了实质性进展。由于卷积运算固有的偏置,现有模型主要关注由相邻像素形成的局部视觉线索,但未能充分建模长程上下文依赖。本文提出一种新颖的基于 Transformer 的注意力引导网络 TransAttUnet,其中设计了多级引导注意力与多尺度跳跃连接,以联合增强语义分割架构的性能。受 Transformer 启发,具有 Transformer 自注意力(TSA)与全局空间注意力(GSA)的自感知注意力(SAA)模块被引入 TransAttUnet,以有效学习编码器特征间的非局部交互。此外,我们还在解码器模块间使用额外的多尺度跳跃连接,以聚合具有不同语义尺度的上采样特征。以此方式,多尺度上下文信息的表征能力得以增强,从而生成具有判别力的特征。得益于这些互补组件,所提出的 TransAttUnet 能有效缓解由卷积层堆叠与连续采样操作引起的细节丢失,最终提升医学图像的分割质量。在来自不同成像模态的多个医学图像分割数据集上的大量实验表明,所提方法一致优于当前最优(SOTA)基线。我们的代码与预训练模型可在 https://github.com/YishuLiu/TransAttUnet 获取。

关键词

引用

@article{arxiv.2107.05274,
  title  = {TransAttUnet: Multi-level Attention-guided U-Net with Transformer for Medical Image Segmentation},
  author = {Bingzhi Chen and Yishu Liu and Zheng Zhang and Guangming Lu and Adams Wai Kin Kong},
  journal= {arXiv preprint arXiv:2107.05274},
  year   = {2022}
}