利用 SHAP 解释人体活动识别：通过扰动和定量指标验证洞察
计算机视觉与模式识别
2025-03-24 v2
摘要
在人体活动识别（HAR）中，理解高风险应用中身体运动的复杂性至关重要。本研究使用 SHapley Additive exPlanations（SHAP）来解释图卷积网络（GCNs）在利用骨架数据分类活动时的决策过程。我们使用 SHAP 解释两个真实世界数据集：一个用于脑瘫（CP）分类，以及广泛使用的 NTU RGB+D 60 动作识别数据集。为了测试解释，我们引入了一种新颖的扰动方法，修改模型的边重要性矩阵，使我们能够评估特定身体关键点对预测结果的影响。为了评估解释的保真度，我们采用知情扰动，针对 SHAP 识别为重要的身体关键点，并将其与随机扰动作为对照条件进行比较。这种扰动使我们能够根据 SHAP 值判断身体关键点是否真正具有影响力。两个数据集上的结果表明，通过 SHAP 识别为重要的身体关键点对准确率、特异性和灵敏度指标具有最大影响。我们的研究结果强调了 SHAP 可以为 GCN 在 HAR 任务中的预测结果提供关于输入特征贡献的细粒度洞察。这展示了在医疗保健或康复等高风险应用中构建更具可解释性和可信度模型的潜力。
引用
@article{arxiv.2411.03714,
title = {Explaining Human Activity Recognition with SHAP: Validating Insights with Perturbation and Quantitative Measures},
author = {Felix Tempel and Espen Alexander F. Ihlen and Lars Adde and Inga Strümke},
journal= {arXiv preprint arXiv:2411.03714},
year = {2025}
}
备注
Published in Computers in Biology and Medicine