QXAI：面向患者监护系统定量分析的可解释人工智能框架

人工智能技术可用于分类患者的身体活动并预测远程患者监护中的生命体征。基于深度学习和非线性模型的回归分析因其黑盒性质而可解释性有限。这可能要求决策者在非线性模型结果的基础上盲目冒险，尤其是在医疗应用中。在非侵入式监护中，来自追踪传感器的患者数据及其易感临床属性作为预测未来生命体征的输入特征。解释各种特征对监护应用整体输出的贡献对临床医生的决策至关重要。在本研究中，提出了一种用于定量分析的可解释人工智能（Explainable AI, QXAI）框架，在监督学习方法中为回归和分类任务提供事后模型可解释性与内在可解释性。这是通过利用 Shapley 值概念并在深度学习模型中引入注意力机制实现的。我们采用人工神经网络（ANN）和基于注意力的双向 LSTM（BiLSTM）模型，基于传感器数据预测心率并分类身体活动。深度学习模型在预测和分类任务中均取得了最先进（SOTA）结果。对输入数据进行了全局解释和局部解释，以理解各类患者数据的特征贡献。所提出的 QXAI 框架使用 PPG-DaLiA 数据预测心率，并使用移动健康（MHEALTH）数据基于传感器数据分类身体活动进行了评估。为克服 Shapley 值计算所需的时间复杂度和高计算能力需求，对该框架应用了蒙特卡洛近似。