中文

面向糖尿病视网膜病变分级的局部到全局自监督表征学习

计算机视觉与模式识别 2024-12-12 v3 图像与视频处理

摘要

人工智能算法在过去十年中展示了在图像分类和分割方面的强大能力。然而,人工智能算法在实际临床数据上的表现远低于用于模拟的数据。该研究旨在提出一种新型混合学习模型,结合自监督学习和知识蒸馏,以实现充分的泛化和鲁棒性。ViT 中使用的自注意力机制和 token,以及本研究中采用的局部到全局学习方法,使提出的算法能够从图像中提取高维且高质量的特征空间。为证明所提出的神经网络在分类和从医学图像中提取特征空间方面的能力,我们将其应用于糖尿病视网膜图像数据集,即 EyePACS 数据集。该数据集在结构上更为复杂,损伤区域也更具挑战性。本研究首次将自监督学习和知识蒸馏用于该数据集的分类。在我们的算法中,首次在所有自监督学习和知识蒸馏模型中,测试数据集的大小是训练数据集的 50%。与许多研究不同,我们未从数据集中删除任何图像。最终,我们的算法在线性分类器上的准确率为 79.1%,在 k-最近邻算法上的准确率为 74.36%。与类似的 SOTA 模型相比,我们的结果实现了更高的准确率和更有效的表征空间。

关键词

引用

@article{arxiv.2410.00779,
  title  = {Local-to-Global Self-Supervised Representation Learning for Diabetic Retinopathy Grading},
  author = {Mostafa Hajighasemlou and Samad Sheikhaei and Hamid Soltanian-Zadeh},
  journal= {arXiv preprint arXiv:2410.00779},
  year   = {2024}
}