CheXtransfer：ImageNet模型用于胸部X光解读的性能与参数效率
计算机视觉与模式识别
2021-02-23 v2 人工智能
机器学习
摘要
用于胸部X光解读的深度学习方法通常依赖于为ImageNet开发的预训练模型。这一范式假设更好的ImageNet架构在胸部X光任务上表现更好，且ImageNet预训练权重相比随机初始化能带来性能提升。在本工作中，我们在一个大型胸部X光数据集（CheXpert）上比较了16种流行卷积架构的迁移性能与参数效率，以研究这些假设。首先，我们发现无论无预训练还是有预训练的模型，ImageNet性能与CheXpert性能之间均无关联。其次，我们发现对于无预训练模型，在医学影像任务中，模型族的选择比族内尺寸对性能的影响更大。第三，我们观察到ImageNet预训练在各架构上均带来统计显著的性能提升，且对较小架构提升更高。第四，我们通过截断预训练模型的最终块来检验ImageNet架构对于CheXpert是否过大，发现可使模型平均参数效率提升3.25倍而无统计显著的性能下降。我们的工作为ImageNet与胸部X光解读性能之间的关系提供了新的实验证据。
引用
@article{arxiv.2101.06871,
title = {CheXtransfer: Performance and Parameter Efficiency of ImageNet Models for Chest X-Ray Interpretation},
author = {Alexander Ke and William Ellsworth and Oishi Banerjee and Andrew Y. Ng and Pranav Rajpurkar},
journal= {arXiv preprint arXiv:2101.06871},
year = {2021}
}