我们能否将自监督预训练应用于胸部X光片？
计算机视觉与模式识别
2022-11-24 v1
摘要
胸部放射影像（或称胸部X光片，CXR）是一种广为应用的医学成像方式，全球放射科医生借此诊断心脏或肺部疾病。在过去十年中，卷积神经网络（CNN）在识别CXR图像中的病理方面取得了成功。通常，这些CNN在标准的ImageNet分类任务上进行预训练，但这假设了大规模标注数据集的可用性。在本工作中，我们分析了在无人标注的ImageNet或胸部X光片（CXR）数据集上使用多种算法并在多种设置下进行预训练的效用。我们工作的部分发现包括：(i) 使用标注ImageNet进行监督训练学习到的表征难以被超越；(ii) 在ImageNet（约100万张图像）上的自监督预训练与在CXR数据集（约10万张图像）上的自监督预训练表现相近；以及 (iii) 在监督ImageNet上训练的CNN可进一步用自监督CXR图像训练从而带来提升，尤其是当下游数据集规模在数千张图像量级时。
引用
@article{arxiv.2211.12931,
title = {Can we Adopt Self-supervised Pretraining for Chest X-Rays?},
author = {Arsh Verma and Makarand Tapaswi},
journal= {arXiv preprint arXiv:2211.12931},
year = {2022}
}
备注
Extended Abstract presented at Machine Learning for Health (ML4H) symposium 2022, November 28th, 2022, New Orleans, United States & Virtual, http://www.ml4h.cc, 10 pages