基于情境感知自适应知识蒸馏的温度驱动脑部和胃肠疾病检测
摘要
医学疾病预测，特别是通过影像学手段，由于医学数据的复杂性和多样性（包括噪声、模糊性和不同的图像质量），仍是一个具有挑战性的任务。近期的深度学习模型，包括知识蒸馏 (KD) 方法，在脑部肿瘤图像识别方面显示出前景，但仍面临在处理不确定性和跨 diverse medical conditions 泛化方面的局限。传统 KD 方法通常依赖于 context-unaware temperature 参数来软化教师模型预测，这种做法对医学图像中呈现的 varying uncertainty 水平不够有效。为此，我们提出了一种新框架，将 Ant Colony Optimization (ACO) 集成用于最佳教师-学生模型选择，并提出一种基于情境的预测方法进行温度缩放。该框架根据图像质量、疾病复杂度和教师模型置信度等因素调整温度，从而实现更稳健的知识传递。此外，ACO 有效地从一组预训练模型中选择最合适的教师-学生模型对，凭借探索更广阔的解空间和更好地处理数据中复杂的非线性关系，显著优于当前优化方法。该框架在三个公开可用的基准数据集上进行评估，每个数据集对应不同的医学影像任务。结果表明，所提框架显著优于当前最先进的方法，取得了顶级准确率：98.01% 在 MRI 脑部肿瘤 (Kaggle) 数据集上，92.81% 在 Figshare MRI 数据集上，96.20% 在 GastroNet 数据集上。更高的性能进一步体现在结果优于现有基准：97.24% (Kaggle)，91.43% (Figshare)，95.00% (GastroNet)。
引用
@article{arxiv.2505.06381,
title = {Temperature-Driven Robust Disease Detection in Brain and Gastrointestinal Disorders via Context-Aware Adaptive Knowledge Distillation},
author = {Saif Ur Rehman Khan and Muhammad Nabeel Asim and Sebastian Vollmer and Andreas Dengel},
journal= {arXiv preprint arXiv:2505.06381},
year = {2025}
}
备注
This version v2 updates the title to match the version accepted for publication in biomedical-signal-processing-and-control. The title has been changed to 'Temperature-Driven Robust Disease Detection in Brain and Gastrointestinal Disorders via Context-Aware Adaptive Knowledge Distillation'. The scientific content is unchanged from v1