DeltaSHAP：基于Shapley值解释在线患者监测中的预测演变
机器学习
2025-07-15 v2 人工智能
摘要
本研究提出 DeltaSHAP，一种专为在线患者监测系统设计的新型可解释人工智能 (XAI) 算法。临床环境中，及时发现驱动患者风险演变的原因至关重要，但现有 XAI 方法未能满足临床时间序列解释任务的独特需求。为此，DeltaSHAP 解决了三个关键临床需求：解释连续预测的变化而非孤立的预测得分，提供特征归因的幅度和方向，并实时提供这些见解。通过将Shapley值适应于时间序列设置，我们的方法准确捕捉特征联合作用。进一步，通过仅使用实际观察到的特征组合来归因预测变化，使其在面向以时间为关键的临床应用时高效且实用。我们还引入了新的评估指标来评估在线时间序列的归因可信度，通过在在线患者监测任务上的实验表明，DeltaSHAP 在解释质量上比最先进的 XAI 方法高出 62%，在计算效率上节省 33% 时间。我们在 https://github.com/AITRICS/DeltaSHAP 上发布了代码。
引用
@article{arxiv.2507.02342,
title = {DeltaSHAP: Explaining Prediction Evolutions in Online Patient Monitoring with Shapley Values},
author = {Changhun Kim and Yechan Mun and Sangchul Hahn and Eunho Yang},
journal= {arXiv preprint arXiv:2507.02342},
year = {2025}
}
备注
Accepted to ICML 2025 Workshop on Actionable Interpretability. Code is available at https://github.com/AITRICS/DeltaSHAP