中文

PASS:面向医学图像分割的测试时提示以适应风格与语义形状

计算机视觉与模式识别 2024-10-03 v1

摘要

测试时适应(TTA)已成为处理医学图像在不同机构之间测试时域迁移的有前景方法,无需额外的训练数据。然而,现有的分割任务TTA解决方案面临两个问题:(1)依赖修改源训练阶段和获取源先验信息,或(2)未充分关注分割任务中至关重要的形状相关语义知识。最近的视觉提示学习研究通过扩展参数空间实现了源码放松适应,但仍未充分利用语义特征,激发我们对知识丰富的深度提示学习的工作动机。除了一般图像风格变化的关注外,我们发现形状变异性是另一个导致性能下降的关键因素。为此,我们提出了一个名为PASS(Prompting to Adapt Styles and Semantic shapes)的TTA框架,该框架联合学习两种类型的提示:用于重构测试图像风格以适配预训练模型的输入空间提示,以及用于跨域桥接高层次形状差异的语义感知提示。我们引入输入装饰器生成以输入数据为条件的自调节视觉提示。为检索知识表征并为每个测试样本定制目标特定的形状提示,我们提出了跨注意力提示调制器,该模块在目标表征和丰富的形状提示库之间进行交互。大量实验表明,PASS在多个医学图像分割数据集上优于当前最先进的方法。代码可在 https://github.com/EndoluminalSurgicalVision-IMR/PASS 查看。

关键词

引用

@article{arxiv.2410.01573,
  title  = {PASS:Test-Time Prompting to Adapt Styles and Semantic Shapes in Medical Image Segmentation},
  author = {Chuyan Zhang and Hao Zheng and Xin You and Yefeng Zheng and Yun Gu},
  journal= {arXiv preprint arXiv:2410.01573},
  year   = {2024}
}

备注

Submitted to IEEE TMI