探索一种基于梯度的可解释 AI 技术用于时间序列数据：以卒中康复训练评估为例
机器学习
2023-05-10 v1 人工智能
人机交互
摘要
可解释人工智能（AI）技术正日益被探索，以揭示 AI 和机器学习（ML）模型在各种应用中给出特定结果的原因。然而，针对时间序列数据的可解释 AI 技术探索有限，尤其是在医疗健康领域。在本文中，我们描述了一种基于阈值的方法，该方法利用弱监督模型和基于梯度的可解释 AI 技术（即显著图），并探索其识别时间序列数据显著帧的可行性。使用来自 15 名卒中后幸存者完成三项上肢运动的数据集，以及是否观察到代偿运动的标签，我们实现了一个前馈神经网络模型，并利用每个输入对模型输出的梯度来识别涉及代偿运动的显著帧。根据使用帧级标注的评估，我们的方法达到了 0.96 的召回率和 0.91 的 F2 分数。我们的结果展示了基于梯度的可解释 AI 技术（例如显著图）用于时间序列数据的潜力，例如高亮治疗师应重点审阅的视频帧，并减少模型训练中的帧级标注工作量。
引用
@article{arxiv.2305.05525,
title = {Exploring a Gradient-based Explainable AI Technique for Time-Series Data: A Case Study of Assessing Stroke Rehabilitation Exercises},
author = {Min Hun Lee and Yi Jing Choy},
journal= {arXiv preprint arXiv:2305.05525},
year = {2023}
}
备注
ICLR 2023 Workshop on Time Series Representation Learning for Health