用于设备上胸部X光分类的可解释知识蒸馏
计算机视觉与模式识别
2023-05-11 v1 机器学习
摘要
自动化多标签胸部 X 光（CXR）图像分类通过利用复杂的深度学习方法在临床诊断中取得了实质性进展。然而，大多数深度模型具有较高的计算需求，这使得它们对于计算需求较低的紧凑设备不太可行。为克服此问题，我们提出一种知识蒸馏（KD）策略，以创建用于实时多标签 CXR 图像分类的紧凑深度学习模型。我们研究了 CNN 和 Transformer 的不同组合作为教师网络将知识蒸馏到较小的学生网络。然后，我们采用可解释人工智能（XAI）为 KD 所改善的模型决策提供视觉解释。我们在三个基准 CXR 数据集上的结果表明，我们的 KD 策略在紧凑学生模型上提供了改进的性能，因此是许多受限硬件平台的可行选择。例如，当使用 DenseNet161 作为教师网络时，EEEA-Net-C2 在 ChestX-ray14、CheXpert 和 PadChest 数据集上分别取得了 83.7%、87.1% 和 88.7% 的 AUC，参数更少（470 万）且计算成本为 0.3 billion FLOPS。
引用
@article{arxiv.2305.06244,
title = {Explainable Knowledge Distillation for On-device Chest X-Ray Classification},
author = {Chakkrit Termritthikun and Ayaz Umer and Suwichaya Suwanwimolkul and Feng Xia and Ivan Lee},
journal= {arXiv preprint arXiv:2305.06244},
year = {2023}
}
备注
Published at IEEE/ACM TRANSACTIONS ON COMPUTATIONAL BIOLOGY AND BIOINFORMATICS