选择您的解释：SHAP 与 GradCAM 在人类活动识别中的比较

使用 eXplainable AI (XAI) 技术解释机器学习 (ML) 模型已成为使其更加透明和可信的关键步骤，这在像医疗保健这样的高风险领域尤为重要，因为理解模型决策对于确保伦理、可靠和可信的 outcome 预测至关重要。然而，用户常常对针对其特定用例选择哪种解释方法感到困惑。我们对广泛使用的解释方法进行比较分析，即 Shapley Additive Explanations (SHAP) 和 Gradient-weighted Class Activation Mapping (Grad-CAM)，其在人类活动识别 (HAR) 领域应用图卷积网络 (GCN)。通过在两个真实数据集上对这些方法进行评估，包括一个医疗保健关键的脑麻痹 (CP) 案例，本研究为这两种方法的优势、局限性和差异提供了重要见解，为根据特定模型和应用选择最合适的解释方法提供了路线图。我们对这些方法进行定量和定性比较，关注特征重要性排序、可解释性和模型灵敏度，通过扰动实验进行评估。虽然 SHAP 提供详细的输入特征归因，但 Grad-CAM 提供更快的、以空间为导向的解释，使两种方法在特定应用需求下具有互补性。鉴于 XAI 在增强信任和透明度方面在像医疗保健这样敏感环境中对 ML 模型具有重要作用，我们的研究表明 SHAP 和 Grad-CAM 可以相互补充，以提供更具可解释性和可操作性的模型解释。