基于对比学习的预训练改善糖尿病视网膜病变分类模型的表示与可迁移性
图像与视频处理
2022-08-25 v1 计算机视觉与模式识别
定量方法
摘要
基于自监督对比学习（CL）的预训练允许利用小型带标签数据集开发鲁棒且泛化的深度学习模型，减轻标签生成的负担。本文旨在评估基于CL的预训练对可转诊与不可转诊糖尿病视网膜病变（DR）分类性能的影响。我们开发了一个带神经风格迁移（NST）增强的基于CL的框架，以生成具有更好表示和初始化的模型，用于彩色眼底图像中DR的检测。我们将CL预训练模型性能与两个使用Imagenet权重预训练的最先进基线模型进行比较。我们进一步以减少的带标签训练数据（低至10%）考察模型性能，以测试模型在小型带标签数据集训练时的鲁棒性。模型在EyePACS数据集上训练与验证，并在来自芝加哥伊利诺伊大学（UIC）的临床数据上独立测试。与基线模型相比，我们的CL预训练FundusNet模型具有更高的AUC（CI）值（在UIC数据上为0.91（0.898至0.930）对比0.80（0.783至0.820）和0.83（0.801至0.853））。在10%带标签训练数据下，FundusNet的AUC为0.81（0.78至0.84），而基线模型在UIC数据集测试时分别为0.58（0.56至0.64）和0.63（0.60至0.66）。带有NST的基于CL的预训练显著改善DL分类性能，帮助模型良好泛化（可从EyePACS迁移至UIC数据），并允许使用小型标注数据集训练，从而减轻临床医生的真值标注负担。
引用
@article{arxiv.2208.11563,
title = {Contrastive learning-based pretraining improves representation and transferability of diabetic retinopathy classification models},
author = {Minhaj Nur Alam and Rikiya Yamashita and Vignav Ramesh and Tejas Prabhune and Jennifer I. Lim and R. V. P. Chan and Joelle Hallak and Theodore Leng and Daniel Rubin},
journal= {arXiv preprint arXiv:2208.11563},
year = {2022}
}