MUSCLE:用于多部位 X 射线图像深度模型预训练的多任务自监督持续学习
计算机视觉与模式识别
2023-10-04 v1 机器学习
摘要
虽然自监督学习(SSL)算法已广泛用于深度模型预训练,但很少有工作[11]致力于通过 SSL 预训练模型改进 X 射线图像分析的表征学习。在本工作中,我们研究了一种新颖的自监督预训练流程,即多任务自监督持续学习(MUSCLE),用于多个医学影像任务,如分类与分割,使用从多个身体部位(包括头部、肺部与骨骼)收集的 X 射线图像。具体而言,MUSCLE 聚合来自多个身体部位的 X 射线进行基于 MoCo 的表征学习,并采用精心设计的持续学习(CL)流程进一步预训练骨干网络以联合应对各类 X 射线分析任务。MUSCLE 中使用了图像预处理、学习调度与正则化的特定策略来解决多任务/数据集学习中的数据异质性、过拟合与灾难性遗忘问题。我们使用 9 个真实世界 X 射线数据集及各种任务评估 MUSCLE,包括肺炎分类、骨骼异常分类、肺分割与结核病(TB)检测。与其他预训练模型[7]的对比证实了这一概念验证:自监督多任务/数据集持续预训练可提升 X 射线图像分析性能。
引用
@article{arxiv.2310.02000,
title = {MUSCLE: Multi-task Self-supervised Continual Learning to Pre-train Deep Models for X-ray Images of Multiple Body Parts},
author = {Weibin Liao and Haoyi Xiong and Qingzhong Wang and Yan Mo and Xuhong Li and Yi Liu and Zeyu Chen and Siyu Huang and Dejing Dou},
journal= {arXiv preprint arXiv:2310.02000},
year = {2023}
}
备注
accepted by Medical Image Computing and Computer Assisted Intervention (MICCAI) 2022