中文

X2CT-CLIP:基于三模态对比学习实现从胸部X光片到CT的多异常检测

计算机视觉与模式识别 2025-03-12 v2 机器学习

摘要

计算机断层扫描(CT)是诊断的关键成像模态,但其高辐射暴露和长周转时间限制了临床效用,使其难以用于大规模筛查。尽管胸部X光摄影(CXR)更易获取且更安全,但现有的CXR基础模型主要侧重于检测在CXR上容易可见的疾病。近期有研究探索了在模拟CXR上训练疾病分类模型,但仍局限于从CT中识别单一疾病类型。CT基础模型也已出现,在CT病理检测方面有显著改善。然而,将CT衍生标签泛化应用于CXR仍难以实现。本研究提出X2CT-CLIP,这是一个三模态知识迁移学习框架,通过在潜在空间中精心设计的三模态对齐机制,将3D CT体积及相关放射学报告的知识迁移到CXR编码器,从而弥合CT与CXR之间的模态差距,同时减少模型训练的计算负担。我们的方法是首个通过利用CXR实现CT多异常分类的工作。在三个多标签CT数据集上的广泛评估表明,我们的方法在跨模态检索、少样本适应和外部验证方面均优于SOTA基线。这些结果突显了融入CT衍生知识的CXR作为资源有限环境下疾病检测可行且高效替代方案的潜力。

关键词

引用

@article{arxiv.2503.02162,
  title  = {X2CT-CLIP: Enable Multi-Abnormality Detection in Computed Tomography from Chest Radiography via Tri-Modal Contrastive Learning},
  author = {Jianzhong You and Yuan Gao and Sangwook Kim and Chris Mcintosh},
  journal= {arXiv preprint arXiv:2503.02162},
  year   = {2025}
}

备注

11 pages, 1 figure, 5 tables