评估用于脑性瘫痪早期检测的深度学习模型中的可解释人工智能方法
计算机视觉与模式识别
2024-09-04 v1 人工智能
机器学习
摘要
脑性瘫痪（CP）的早期检测对于有效干预和监测至关重要。本文测试了可解释人工智能（XAI）方法的可靠性和适用性，该方法使用一种深度学习方法，通过分析从婴儿运动视频记录中提取的骨骼数据来预测CP。具体而言，我们使用XAI评估指标——即忠实性和稳定性——来定量评估类激活映射（CAM）和梯度加权类激活映射（Grad-CAM）在这一特定医疗应用中的可靠性。我们利用一个独特的婴儿运动数据集，并在不扭曲婴儿运动原始动态的情况下应用骨骼数据扰动。我们的CP预测模型采用集成方法，因此我们评估了整体集成和单个模型的XAI指标性能。我们的研究结果表明，两种XAI方法都能有效识别影响CP预测的关键身体部位，并且这些解释对轻微数据扰动具有鲁棒性。Grad-CAM在RISv指标（以速度衡量稳定性）上显著优于CAM。相反，CAM在与骨骼稳定性相关的RISb指标和评估内部表示鲁棒性的RRS指标上表现更好。集成中的单个模型显示出不同的结果，CAM和Grad-CAM均未始终优于对方，而集成方法提供了其组成模型结果的表示。
引用
@article{arxiv.2409.00001,
title = {Evaluating Explainable AI Methods in Deep Learning Models for Early Detection of Cerebral Palsy},
author = {Kimji N. Pellano and Inga Strümke and Daniel Groos and Lars Adde and Espen Alexander F. Ihlen},
journal= {arXiv preprint arXiv:2409.00001},
year = {2024}
}