TransNorm：Transformer 为深度分割模型提供强空间归一化机制
计算机视觉与模式识别
2022-07-28 v1 图像与视频处理
摘要
在过去几年中，卷积神经网络（CNNs），特别是 U-Net，一直是医学图像处理时代的主流技术。具体而言，开创性的 U-Net 及其变体已成功处理了大量医学图像分割任务。然而，这些架构本质上并不完美，因为它们未能展现长程交互与空间依赖关系，导致在分割具有可变形状和结构的医学图像时性能严重下降。Transformer 最初为序列到序列预测而提出，已作为替代架构出现，借助自注意力机制精确建模全局信息。尽管设计上可行，但将纯 Transformer 用于图像分割可能导致因低级特征不足而带来的有限定位能力。因此，一系列研究致力于设计基于 Transformer 的 U-Net 的鲁棒变体。在本文中，我们提出 TransNorm，一种新颖的深度分割框架，它将 Transformer 模块同时整合到标准 U-Net 的编码器与跳跃连接中。我们认为跳跃连接的便捷设计对精确分割至关重要，因为它可辅助扩展路径与收缩路径之间的特征融合。在这方面，我们从 Transformer 模块导出空间归一化机制，以自适应地重新校准跳跃连接路径。在三个典型医学图像分割任务上的大量实验证明了 TransNorm 的有效性。代码与训练好的模型公开于 https://github.com/rezazad68/transnorm。
引用
@article{arxiv.2207.13415,
title = {TransNorm: Transformer Provides a Strong Spatial Normalization Mechanism for a Deep Segmentation Model},
author = {Reza Azad and Mohammad T. AL-Antary and Moein Heidari and Dorit Merhof},
journal= {arXiv preprint arXiv:2207.13415},
year = {2022}
}