SPCXR：基于胸部X射线自监督预训练构建领域专用基础模型
图像与视频处理
2023-05-19 v2 计算机视觉与模式识别
摘要
胸部X射线（CXR）是一种广泛用于肺部疾病诊断和预后的成像方式。其图像分析任务多样，例如病灶检测与肺部分割。已有大量工作针对特定任务开发机器学习算法，其中近期一个重要例子是利用CXR数据进行冠状病毒病（covid-19）检测。然而，基于监督学习的传统诊断工具设计方法受制于需要提供训练数据标注，且标注质量需良好才能获得更好的临床效果。本文提出一种替代方案，即一种新的自监督范式，通过分组掩码自监督框架从CXR中学习通用表征。随后将该预训练模型微调用于领域特定任务，如covid-19、肺炎检测以及常规健康筛查。我们表明同一预训练也可用于肺部分割任务。所提范式在多个下游任务中表现出鲁棒性能，证明了预训练的成功。此外，预训练模型在测试时存在显著漂移的数据上的表现，证明了其学到了更优的通用表征。该方法进一步在一个独特的小规模儿科数据集上通过covid-19检测得到验证。与基于监督Transformer的方法相比，准确率提升显著（约25%）。这为所提框架与预训练策略的强度和可靠性提供了佐证。
引用
@article{arxiv.2211.12944,
title = {SPCXR: Self-supervised Pretraining using Chest X-rays Towards a Domain Specific Foundation Model},
author = {Syed Muhammad Anwar and Abhijeet Parida and Sara Atito and Muhammad Awais and Gustavo Nino and Josef Kitler and Marius George Linguraru},
journal= {arXiv preprint arXiv:2211.12944},
year = {2023}
}