关键护理应用中时间序列可解释性算法的失效模式及潜在解决方案
机器学习
2025-06-25 v1
摘要
在关键护理领域，可解释性在与部署深度学习模型以及应对不断变化的病情（影响患者生存）方面发挥着关键作用。然而，常规可解释性算法在应用于动态预测任务时面临独特挑战——患者轨迹随时间演化。梯度、遮挡和置换等方法在处理时间变动的目标依赖性和时序光滑性方面常常困难重重。本工作系统性地分析了这些失效模式，并支持可学习掩码基可解释性框架作为替代方案，这些框架可纳入时序连续性和标签一致性约束，以在时间维度上学习特征重要性。我们提出，针对动态时间序列预测问题的可学习掩码方法为关键护理及类似领域的应用提供更可靠、更一致的解释。
引用
@article{arxiv.2506.19035,
title = {Failure Modes of Time Series Interpretability Algorithms for Critical Care Applications and Potential Solutions},
author = {Shashank Yadav and Vignesh Subbian},
journal= {arXiv preprint arXiv:2506.19035},
year = {2025}
}
备注
13 pages, 10 figures, Accepted at the AMIA Annual Symposium 2025. The final version will appear in the official proceedings