评估神经网络在医学图像中的知识迁移
图像与视频处理
2020-09-21 v2 计算机视觉与模式识别
摘要
深度学习和知识迁移技术已渗透进医学成像领域，并被视为变革诊断成像实践的关键方法。然而，由于缺少大规模标注成像数据，深度学习成功融入医学成像任务仍面临挑战。为解决此问题，我们提出一种师生学习(teacher-student learning)框架，将知识从精心预训练的卷积神经网络(CNN)教师网络迁移至学生CNN。在本研究中，我们探索了医学成像设定下知识迁移的性能。我们考察了当学生网络在小型数据集(目标数据集)上训练时，以及当教师与学生领域不同时，所提出网络的性能。CNN模型的性能在三个医学成像数据集上评估，包括糖尿病视网膜病变(Diabetic Retinopathy)、CheXpert和ChestX-ray8。我们的结果表明，师生学习框架在小成像数据集上优于迁移学习(transfer learning)。特别地，师生学习框架将CNN模型在CheXpert小样本(n=5k)上的ROC曲线下面积(AUC)提升了4%，在ChestX-ray8(n=5.6k)上提升了9%。除训练数据量小外，我们还展示了在医学成像设定下师生学习框架相较于迁移学习的明显优势。我们观察到，师生网络不仅有望改善诊断性能，还能在数据集较小时减少过拟合。
引用
@article{arxiv.2008.13574,
title = {Evaluating Knowledge Transfer in Neural Network for Medical Images},
author = {Sina Akbarian and Laleh Seyyed-Kalantari and Farzad Khalvati and Elham Dolatabadi},
journal= {arXiv preprint arXiv:2008.13574},
year = {2020}
}
备注
Under Review