医学影像中的过拟合问题：自监督预训练 vs. ImageNet迁移学习用于皮肤学诊断
计算机视觉与模式识别
2025-05-23 v1 人工智能
摘要
深度学习已在计算机视觉领域取得巨大进展，但依赖大规模标注数据集和计算资源。迁移学习，特别是微调预训练模型，提供了一种实用替代方案；然而，基于ImageNet等自然图像数据集预训练的模型可能无法捕捉医学影像中的领域特定特征。本研究引入一种无监督学习框架，从而提取高价值皮肤学特征，而不仅仅依赖ImageNet-based预训练。我们采用在专有皮肤学数据集上从头训练的变分自编码器(VAE)，使模型学习结构化且临床相关的潜在空间。这种自监督特征提取器随后在相同的分类条件下与ImageNet预训练背板进行比较，突出了通用方法与领域特定预训练之间的权衡。我们的结果揭示了不同的学习模式。自监督模型最终验证损失为0.110（-33.33%），而ImageNet预训练模型在0.100（-16.67%）处停滞，表明存在过拟合。准确率趋势也确认了这一点：自监督模型从45%提升至65%（+44.44%），且几乎不存在过拟合鸿沟；而ImageNet预训练模型达到87%（+50.00%），但在75%（+19.05%）处停滞，其过拟合鸿沟增加至+0.060。这些发现表明，尽管ImageNet预训练加速了收敛，但也放大了对非临床相关特征的过拟合；相比之下，自监督学习实现了稳定的改进，更强的泛化能力和更好的适应性，凸显了在医学影像中进行领域特定特征提取的重要性。
引用
@article{arxiv.2505.16773,
title = {Mitigating Overfitting in Medical Imaging: Self-Supervised Pretraining vs. ImageNet Transfer Learning for Dermatological Diagnosis},
author = {Iván Matas and Carmen Serrano and Miguel Nogales and David Moreno and Lara Ferrándiz and Teresa Ojeda and Begoña Acha},
journal= {arXiv preprint arXiv:2505.16773},
year = {2025}
}
备注
6 pages, 2 tables, 2 figures