探索医学影像中谱分析与迁移学习的联系
计算机视觉与模式识别
2025-05-13 v2
摘要
在本文中,我们利用谱分析来研究迁移学习,并探究模型对医学影像中频率捷径的敏感性。通过分析预训练和微调模型梯度的功率谱密度,以及人工生成的频率捷径,我们观察到在自然图像与医学图像上预训练的模型之间,学习优先级存在显著差异,并且这种差异通常在微调过程中持续存在。我们发现,当模型的学习优先级与伪影的功率谱密度一致时,会导致模型对该伪影过拟合。基于这些观察,我们表明源数据编辑可以改变模型对捷径学习的抵抗力。
引用
@article{arxiv.2407.11379,
title = {Exploring connections of spectral analysis and transfer learning in medical imaging},
author = {Yucheng Lu and Dovile Juodelyte and Jonathan D. Victor and Veronika Cheplygina},
journal= {arXiv preprint arXiv:2407.11379},
year = {2025}
}