中文

超越 SAM 适配:通过自动提示实现端到端超声图像分割

计算机视觉与模式识别 2024-07-09 v2 人工智能

摘要

端到端医学图像分割对于由任务专用模型主导的计算机辅助诊断具有重要价值,但通常存在泛化性差的问题。随着 segment anything model(SAM)在通用图像分割上的近期突破,已有大量工作致力于将 SAM 适配到医学影像,但仍面临两个主要问题:1)若无恰当适配则性能严重下降且泛化有限;2)依赖准确人工提示进行交互的半自动分割。本工作中,我们提出 SAMUS 作为专为超声图像分割设计的通用模型,并进一步使其以端到端方式工作,记为 AutoSAMUS。具体而言,在 SAMUS 中引入并行 CNN 分支通过跨分支注意力补充局部信息,并联合使用特征适配器和位置适配器将 SAM 从自然域适配到超声域,同时降低训练复杂度。AutoSAMUS 通过引入自动提示生成器(APG)替代 SAMUS 的人工提示编码器以自动生成提示嵌入来实现。我们收集了一个涵盖六类对象、约 30k 图像和 69k 掩膜的全面超声数据集用于验证。大量对比实验证明了 SAMUS 和 AutoSAMUS 相对于最先进的任务专用及基于 SAM 的基础模型的优越性。我们相信基于自动提示的 SAM 模型有潜力成为端到端医学图像分割的新范式,值得更多探索。代码与数据见 https://github.com/xianlin7/SAMUS。

关键词

引用

@article{arxiv.2309.06824,
  title  = {Beyond Adapting SAM: Towards End-to-End Ultrasound Image Segmentation via Auto Prompting},
  author = {Xian Lin and Yangyang Xiang and Li Yu and Zengqiang Yan},
  journal= {arXiv preprint arXiv:2309.06824},
  year   = {2024}
}

备注

Also known as SAMUS. Officially accepted by MICCAI 2024