DiCoM——面向提升胸部 X 光研究泛化能力的多样化概念建模
图像与视频处理
2024-07-26 v2 计算机视觉与模式识别
机器学习
摘要
胸部 X 光（CXR）是一种广泛使用的临床成像模态，在各种肺部和心脏相关疾病的诊断与预后中发挥着关键作用。传统的自动化临床诊断工具设计策略依赖于放射学阅片和监督学习，需要大量高质量标注训练数据，这一要求十分繁琐。为应对这一挑战，自监督预训练已在众多下游视觉任务中证明优于监督预训练，代表了该领域的重大突破。然而，由于临床图像的独特属性，医学影像预训练与自然图像（如 ImageNet）预训练存在显著差异。在此背景下，我们提出了多样化概念建模（DiCoM），这是一种新颖的自监督训练范式，利用学生 - 教师框架学习多样化概念，从而实现对 CXR 数据的有效表征。该方法超越了仅对图像中单一主要标签进行建模的局限，转而有效利用 CXR 中固有的所有概念信息。预训练模型随后可微调以解决多种特定领域任务。我们提出的范式在多个数据集的多个下游任务中 consistently 展现出鲁棒性能，突显了该预训练策略的成功与泛化能力。为确立我们方法的有效性，我们分析了所学表征的能力以及模型的收敛速度（SoC）。针对多样化的数据和任务，DiCoM 在大多数情况下相比其他最先进（SOTA）预训练策略能取得更好的结果。结合更高的收敛速度和泛化能力，DiCoM 有望成为 CXR 这一广泛使用的成像模态的基础模型。
引用
@article{arxiv.2402.15534,
title = {DiCoM -- Diverse Concept Modeling towards Enhancing Generalizability in Chest X-Ray Studies},
author = {Abhijeet Parida and Daniel Capellan-Martin and Sara Atito and Muhammad Awais and Maria J. Ledesma-Carbayo and Marius G. Linguraru and Syed Muhammad Anwar},
journal= {arXiv preprint arXiv:2402.15534},
year = {2024}
}