重新思考医学图像分类中的迁移学习
图像与视频处理
2024-05-28 v8 计算机视觉与模式识别
机器学习
摘要
从预训练深度模型进行迁移学习(TL)是现代医学图像分类(MIC)中的标准做法。然而,应复用何种层级的特征是依赖于具体问题的,且统一微调预训练模型的所有层可能并非最优。这一见解部分地催生了近期的差分 TL 策略,如 TransFusion(TF)与逐层微调(LWFT),它们对预训练模型中的各层进行差异化处理。本文中,我们向该系列再添一种策略,称为 TruncatedTL,其复用并微调适当的底层,并直接丢弃其余层。与其他差分 TL 方法相比,这不仅带来更优的 MIC 性能,还产生用于高效推理的紧凑模型。我们的代码见:https://github.com/sun-umn/TTL
引用
@article{arxiv.2106.05152,
title = {Rethinking Transfer Learning for Medical Image Classification},
author = {Le Peng and Hengyue Liang and Gaoxiang Luo and Taihui Li and Ju Sun},
journal= {arXiv preprint arXiv:2106.05152},
year = {2024}
}
备注
Accepted by BMVC2023 (oral)