中文

Barlow-Swin:面向基于 Swin Transformer 的孪生分割新架构

计算机视觉与模式识别 2025-09-09 v1 人工智能

摘要

医学图像分割是临床工作流程中的一项关键任务,特别是对于病理区域的检测和勾画。虽然 U-Net 等卷积架构已成为此类任务的标准,但其有限的感受野限制了全局上下文建模。近期集成 Transformer 的工作解决了这一问题,但通常会产生深度大、计算成本高的模型,不适合实时使用。在本工作中,我们提出了一种专为实时二值医学图像分割设计的新型端到端轻量级架构。我们的模型将类 Swin Transformer 编码器与类 U-Net 解码器相结合,通过跳跃连接保持空间细节的同时捕获上下文信息。与 Swin Transformer 或 U-Net 等现有设计不同,我们的架构显著更浅且具有竞争力的效率。为了在不依赖大量标注数据的情况下提高编码器学习有意义特征的能力,我们首先使用 Barlow Twins 对其进行训练,这是一种自监督学习方法,通过减少所学特征中不必要的冗余来帮助模型聚焦于重要模式。在此预训练之后,我们针对特定任务对整个模型进行微调。在基准二值分割任务上的实验表明,我们的模型以大幅减少的参数量和更快的推理速度实现了具有竞争力的准确率,使其成为在实时和资源受限的临床环境中部署的实用替代方案。我们方法的代码可在 Github 仓库获取:https://github.com/mkianih/Barlow-Swin。

关键词

引用

@article{arxiv.2509.06885,
  title  = {Barlow-Swin: Toward a novel siamese-based segmentation architecture using Swin-Transformers},
  author = {Morteza Kiani Haftlang and Mohammadhossein Malmir and Foroutan Parand and Umberto Michelucci and Safouane El Ghazouali},
  journal= {arXiv preprint arXiv:2509.06885},
  year   = {2025}
}