面向医学影像的大规模监督迁移学习
计算机视觉与模式识别
2021-01-22 v3
摘要
迁移学习是一种在有限数据任务上提升性能的标准技术。然而,对于医学影像,迁移学习的价值尚不明晰。这可能是由于通常的自然图像预训练(如 ImageNet)与医学图像之间存在较大的领域差异。不过,迁移学习的最新进展已显示出规模化带来的显著改进。我们研究现代方法能否改变迁移学习在医学影像中的境遇。为此,我们研究了 Kolesnikov 等人提出的大规模预训练网络类别在三项不同影像任务上的表现:胸部 X 线摄影、乳腺 X 线摄影和皮肤镜学。我们同时研究了迁移性能以及医学领域部署的关键属性,包括:分布外泛化、数据效率、子组公平性和不确定性估计。有趣的是,我们发现对于其中某些属性,从自然图像到医学图像的迁移确实极为有效,但仅在以足够规模进行时方可实现。
引用
@article{arxiv.2101.05913,
title = {Supervised Transfer Learning at Scale for Medical Imaging},
author = {Basil Mustafa and Aaron Loh and Jan Freyberg and Patricia MacWilliams and Megan Wilson and Scott Mayer McKinney and Marcin Sieniek and Jim Winkens and Yuan Liu and Peggy Bui and Shruthi Prabhakara and Umesh Telang and Alan Karthikesalingam and Neil Houlsby and Vivek Natarajan},
journal= {arXiv preprint arXiv:2101.05913},
year = {2021}
}