KD-OCT: 用于临床级视网膜OCT分类的高效知识蒸馏
计算机视觉与模式识别
2026-02-26 v2 人工智能
机器学习
摘要
年龄相关性黄斑变性(AMD)和脉络膜新生血管(CNV)相关疾病是全球视力丧失的主要原因，光学相干断层扫描(OCT)是其早期检测和管理的基石。然而，像ConvNeXtV2-Large这样的最先进的深度学习模型在临床环境中的部署受到其计算需求的阻碍。因此，开发能够在保持高诊断性能的同时实现实时部署的高效模型是可取的。本研究中，提出了一种名为KD-OCT的新型知识蒸馏框架，将一个经过先进增强、随机权重平均和焦点损失增强的高性能ConvNeXtV2-Large教师模型压缩为一个轻量级的EfficientNet-B2学生模型，用于对正常、玻璃膜疣和CNV病例进行分类。KD-OCT采用实时蒸馏，结合软教师知识迁移和硬真实标签监督，通过联合损失平衡实现有效性。该方法在Noor Eye Hospital (NEH)数据集上使用患者级交叉验证进行评估。实验结果表明，KD-OCT在效率-准确性平衡方面优于可比的多尺度或特征融合OCT分类器，以显著减少的模型大小和推理时间实现了接近教师模型的性能。尽管经过压缩，学生模型超越了大多数现有框架，促进了AMD筛查的边缘部署。代码可在https://github.com/erfan-nourbakhsh/KD-OCT获取。
引用
@article{arxiv.2512.09069,
title = {KD-OCT: Efficient Knowledge Distillation for Clinical-Grade Retinal OCT Classification},
author = {Erfan Nourbakhsh and Nasrin Sanjari and Ali Nourbakhsh},
journal= {arXiv preprint arXiv:2512.09069},
year = {2026}
}
备注
7 pages, 5 figures (Accepted at ICSPIS 2025)