从动作到度量：评估基于骨架的人体活动识别中的可解释 AI 方法
机器学习
2024-02-21 v1
摘要
利用 3D 骨架数据进行人体活动识别（HAR）的深度学习进展，对医疗保健、安防、体育和人机交互等应用至关重要。本文针对该领域一个众所周知的空白，即骨架 HAR 领域中可解释 AI（XAI）评估指标的适用性和可靠性缺乏测试，进行了研究。为解决此问题，我们在类激活映射（CAM）和梯度加权类激活映射（Grad-CAM）上测试了已有的 XAI 指标，即忠实性和稳定性。本研究还引入了一种尊重人类生物力学约束的扰动方法，以确保人体运动的逼真变化。我们的研究结果表明，在某些情境下（例如在 EfficientGCN 模型中），忠实性可能不是一个可靠的度量。相反，当输入数据存在轻微扰动时，稳定性表现为更可靠的指标。研究还发现，CAM 和 Grad-CAM 产生几乎相同的解释，导致非常相似的 XAI 指标性能。这表明在基于骨架的 HAR 中需要更多样化的指标和新的 XAI 方法。
引用
@article{arxiv.2402.12790,
title = {From Movements to Metrics: Evaluating Explainable AI Methods in Skeleton-Based Human Activity Recognition},
author = {Kimji N. Pellano and Inga Strümke and Espen Alexander F. Ihlen},
journal= {arXiv preprint arXiv:2402.12790},
year = {2024}
}