中文

ScribblePrompt:面向任意生物医学图像的快速灵活交互式分割

计算机视觉与模式识别 2024-07-18 v3 图像与视频处理

摘要

生物医学图像分割是科学研究和临床护理的关键组成部分。只要有足够的标注数据,就可以训练深度学习模型来准确地自动化执行特定的生物医学图像分割任务。然而,手动分割图像以创建训练数据非常耗费人力,并且需要领域专业知识。我们提出了 \emph{ScribblePrompt},这是一种用于生物医学成像的基于神经网络的灵活交互式分割工具,使人工标注者能够使用涂鸦、点击和边界框来分割先前未见的结构。通过严格的定量实验,我们证明在给定可比交互量的情况下,ScribblePrompt 在训练期间未见过的数据集上产生了比以前方法更准确的分割结果。在一项针对领域专家的用户研究中,与次优方法相比,ScribblePrompt 将标注时间减少了 28%,同时 Dice 提高了 15%。ScribblePrompt 的成功依赖于一系列精心设计的决策。这包括结合高度多样化的图像和任务的训练策略、用于模拟用户交互和标签的新颖算法,以及能够实现快速推理的网络。我们在交互式演示中展示了 ScribblePrompt,提供了代码,并在 https://scribbleprompt.csail.mit.edu 发布了一个涂鸦标注数据集。

关键词

引用

@article{arxiv.2312.07381,
  title  = {ScribblePrompt: Fast and Flexible Interactive Segmentation for Any Biomedical Image},
  author = {Hallee E. Wong and Marianne Rakic and John Guttag and Adrian V. Dalca},
  journal= {arXiv preprint arXiv:2312.07381},
  year   = {2024}
}

备注

Accepted by ECCV 2024. Project Website: https://scribbleprompt.csail.mit.edu Keywords: Interactive Segmentation, Medical Imaging, Segment Anything Model, SAM, Scribble Annotations, Prompt