DAE-Former：用于医学图像分割的双重注意力引导高效Transformer
计算机视觉与模式识别
2023-07-28 v3
摘要
由于能够建模长程依赖关系，Transformer近期在计算机视觉领域受到关注。然而，作为Transformer模型核心部分的自注意力机制，通常随token数量呈二次计算复杂度。许多架构试图通过将自注意力机制限制于局部区域或重新设计token化过程来降低模型复杂度。本文中，我们提出DAE-Former，一种通过高效设计自注意力机制来提供替代视角的新方法。更具体地，我们重新表述自注意力机制，以在整个特征维度上捕获空间与通道关系，同时保持计算高效。此外，我们通过引入交叉注意力模块重新设计跳跃连接路径，以确保特征可复用性并增强定位能力。我们的方法在多器官心脏与皮肤病变分割数据集上优于SOTA方法，且无需预训练权重。代码已公开于 https://github.com/mindflow-institue/DAEFormer。
引用
@article{arxiv.2212.13504,
title = {DAE-Former: Dual Attention-guided Efficient Transformer for Medical Image Segmentation},
author = {Reza Azad and René Arimond and Ehsan Khodapanah Aghdam and Amirhossein Kazerouni and Dorit Merhof},
journal= {arXiv preprint arXiv:2212.13504},
year = {2023}
}
备注
MICCAI 2023 PRIME workshop