以基础多任务模型克服生物医学成像中的数据稀缺问题
计算机视觉与模式识别
2023-11-17 v1 机器学习
摘要
在大规模上预训练的基础模型已在非医学领域展现出显著成功。然而,训练这些模型通常需要大型、全面的数据集,这与生物医学成像中常见的小型且异质性更强的数据集形成对比。在此,我们提出一种多任务学习策略,将训练任务的数量与内存需求解耦。我们在包含层析、显微和X射线图像的多任务数据库上训练了通用生物医学预训练模型(UMedPT),采用分类、分割和目标检测等多种标注策略。UMedPT基础模型优于ImageNet预训练及先前的最先进模型。对于与预训练数据库相关的任务,仅使用原始训练数据的1%且无需微调即可保持性能。对于域外任务,其所需原始训练数据不超过50%。在外部独立验证中,使用UMedPT提取的成像特征被证明是跨中心可迁移性的新标准。
引用
@article{arxiv.2311.09847,
title = {Overcoming Data Scarcity in Biomedical Imaging with a Foundational Multi-Task Model},
author = {Raphael Schäfer and Till Nicke and Henning Höfener and Annkristin Lange and Dorit Merhof and Friedrich Feuerhake and Volkmar Schulz and Johannes Lotz and Fabian Kiessling},
journal= {arXiv preprint arXiv:2311.09847},
year = {2023}
}
备注
29 pages, 5 figures