面向T1加权脑部MRI的域感知多任务预训练3D Swin Transformer
图像与视频处理
2024-10-02 v1 计算机视觉与模式识别
摘要
标注医学图像的稀缺性是开发医学图像分析学习模型的主要瓶颈。因此,近期研究聚焦于预训练模型,这些模型只需少量标注即可针对各种下游任务进行微调。然而,现有方法主要是2D方法的3D改编,不适用于3D医学成像数据。受此差距启发,我们提出了新颖的域感知多任务学习任务,用于预训练一个用于脑部磁共振成像(MRI)的3D Swin Transformer。我们的方法通过结合脑部解剖学和形态学知识,以及在对比学习框架中为3D成像调整的标准预文本任务,来考虑脑部MRI中的领域知识。我们使用来自多个大型数据库的13,687个样本的大规模脑部MRI数据预训练我们的模型。在阿尔茨海默病分类、帕金森病分类和年龄预测三个下游任务中,我们的方法优于现有的监督和自监督方法。对所提出的预文本任务的消融研究显示了其有效性。
引用
@article{arxiv.2410.00410,
title = {Domain Aware Multi-Task Pretraining of 3D Swin Transformer for T1-weighted Brain MRI},
author = {Jonghun Kim and Mansu Kim and Hyunjin Park},
journal= {arXiv preprint arXiv:2410.00410},
year = {2024}
}
备注
ACCV 2024, 14 pages