基于 BERT 风格的自监督学习 CNN 用于视网膜图像疾病识别
计算机视觉与模式识别
2025-04-28 v1 人工智能
摘要
在医学影像领域，深度学习的出现，尤其是卷积神经网络（CNN）的应用，彻底革新了医学图像的分析与解释。然而，深度学习方法通常依赖大量标记数据。在医学影像研究中，获取高质量的标签既昂贵又困难。Vision Transformer（ViT）和自监督学习的引入提供了一种预训练策略，利用丰富的无标签数据，有效缓解了标签获取的挑战，同时拓宽了数据利用的范围。然而，ViT 的计算密度高、对计算资源的需求大，加上其对图像图像块操作缺乏局部化特征，限制了其在许多应用场景中的效率和适用性。本研究采用 nn-MobileNet，这是一种轻量级 CNN 框架，实现一种 BERT 风格的自监督学习方法。我们在来自 UK Biobank 的无标签视网膜底图上进行预训练，以提高下游任务的性能。我们在阿尔茨海默病（AD）、帕金森病（PD）以及各种视网膜疾病识别上验证了预训练模型的结果。结果表明，我们的方法在下游任务中能够显著提升性能。总之，本研究将 CNN 的优势与先进自监督学习处理大规模无标签数据能力相结合，展示了在标签稀缺情况下的 CNN 的潜力。
引用
@article{arxiv.2504.18049,
title = {A BERT-Style Self-Supervised Learning CNN for Disease Identification from Retinal Images},
author = {Xin Li and Wenhui Zhu and Peijie Qiu and Oana M. Dumitrascu and Amal Youssef and Yalin Wang},
journal= {arXiv preprint arXiv:2504.18049},
year = {2025}
}