全卷积神经网络用于医学图像分割中迁移学习的批判性评估
计算机视觉与模式识别
2022-04-05 v2 机器学习
图像与视频处理
摘要
迁移学习被广泛用于训练机器学习模型。在此，我们研究了迁移学习在训练全卷积网络（FCN）用于医学图像分割中的作用。我们的实验表明，尽管迁移学习减少了目标任务上的训练时间，但分割精度的提升高度依赖于任务/数据。当分割任务更具挑战性且目标训练数据更小时，观察到精度有较大的提升。我们观察到，FCN 的卷积滤波器在医学图像分割训练过程中变化很小，并且在收敛时仍呈现随机状态。我们进一步表明，通过将以随机值冻结网络的编码器部分而仅训练解码器部分，可以构建相当准确的 FCN。至少对于医学图像分割而言，这一发现挑战了编码器部分需要学习数据/任务特定表示的普遍看法。我们考察了 FCN 表示的演化，以更好地理解迁移学习对训练动态的影响。我们的分析表明，尽管通过迁移学习训练的 FCN 学习到的表示不同于随机初始化训练的 FCN，但迁移学习训练的 FCN 之间的变异性可能与随机初始化训练的 FCN 之间的变异性一样高。此外，特征重用并不局限于早期的编码器层；相反，它在更深的层中可能更为显著。这些发现提供了新的见解，并提出了训练 FCN 用于医学图像分割的替代方法。
引用
@article{arxiv.2006.00356,
title = {Critical Assessment of Transfer Learning for Medical Image Segmentation with Fully Convolutional Neural Networks},
author = {Davood Karimi and Simon K. Warfield and Ali Gholipour},
journal= {arXiv preprint arXiv:2006.00356},
year = {2022}
}