Curia-2:扩展自监督学习用于放射科学基础模型
计算机视觉与模式识别
2026-04-03 v1 机器学习
摘要
医学影像的快速增长推动了基础模型 (FM) 的发展,以减少放射科医生的日益不可持续的工作负担。虽然最近的 FM 在 CT 和 MRI 分析方面显示出大规模预训练的潜力,但仍有显著空间可以优化这些模型如何从复杂放射学体积数据中学习。建立在 Curia 框架基础上,本工作引入 Curia-2,显著改进了原始的预训练策略和表征质量,以更好地捕捉放射学数据的特定性。提出的方法使能够将体系结构扩展到十亿参数的 Vision Transformer,标志着多模态 CT 和 MRI FM 的首次实现。此外,我们通过扩展和重构 CuriaBench,将这些模型的评估形式化为两个 distinct track:一个针对基于切片的视觉模型的 2D track,以及用于体积基准测试的 3D track。我们的结果表明,Curia-2 在视觉任务中超越了所有 FM,在临床复杂任务(如 finding 检测)中与视觉-语言模型具有竞争力。将公开发布权重,以促进进一步研究。
引用
@article{arxiv.2604.01987,
title = {Curia-2: Scaling Self-Supervised Learning for Radiology Foundation Models},
author = {Antoine Saporta and Baptiste Callard and Corentin Dancette and Julien Khlaut and Charles Corbière and Leo Butsanets and Amaury Prat and Pierre Manceron},
journal= {arXiv preprint arXiv:2604.01987},
year = {2026}
}