中文

SwinECAT:基于移位窗口注意力和高效通道注意力的基于Transformer的糖尿病视网膜病变分类模型

计算机视觉与模式识别 2025-07-30 v1 人工智能

摘要

近年来,人工智能正在越来越多地应用于医学影像领域。在这些应用中,糖尿病视网膜图像分析 presents special challenges,包括某些糖尿病视网膜病变中较小的病灶面积和细微的病种差异,这些因素可能导致模型预测准确率下降和过拟合。为了应对这些挑战,本文提出了基于Transformer的模型SwinECAT,将移位窗口(Swin)注意力与高效通道注意力(ECA)注意力相结合。SwinECAT利用Swin Transformer骨干网络中的Swin注意力机制有效捕获糖尿病视网膜图像中的局部空间结构和长程依赖。将轻量级ECA机制纳入以引导SwinECAT的注意力聚焦于关键特征通道,从而实现更具辨别力的特征表示。与以往研究通常将糖尿病视网膜图像分类至4至6类的做法不同,本工作将糖尿病视网膜病变分类扩展到9种 distinct 类型,从而增强诊断的细粒度程度。我们在包含16,140张糖尿病视网膜图像的Eye Disease Image Dataset (EDID) 上进行了9类别分类评估。实验结果表明,SwinECAT 实现了88.29%的准确率,加权F1分数达到0.88,宏F1分数达到0.90。我们的方法在EDID数据集上实现了最高水平的9类别分类性能。

关键词

引用

@article{arxiv.2507.21922,
  title  = {SwinECAT: A Transformer-based fundus disease classification model with Shifted Window Attention and Efficient Channel Attention},
  author = {Peiran Gu and Teng Yao and Mengshen He and Fuhao Duan and Feiyan Liu and RenYuan Peng and Bao Ge},
  journal= {arXiv preprint arXiv:2507.21922},
  year   = {2025}
}

备注

17 pages