基于概念解释、用于 ICU 死亡率预测的自解释神经网络
机器学习
2026-02-06 v3
摘要
复杂的深度学习模型在各种临床预测任务中表现出较高的预测能力，但其固有的复杂性使得向临床医生和医疗提供者解释模型预测更具挑战性。现有关于医疗中深度学习模型可解释性的研究有两个主要局限：使用事后解释和使用原始临床变量作为解释单元，这两者通常都难以被人理解。在这项工作中，我们设计了一个自解释深度学习框架，使用专家知识驱动的临床概念或中间特征作为解释单元。我们提出的模型的自解释性质源于通过联合训练在同一架构框架内同时生成解释和预测。我们在一个公开可用的电子健康记录（EHR）数据集上测试了所提方法，用于预测 ICU 中患者死亡率。为了分析性能-可解释性权衡，我们将所提模型与具有相同设置但无解释组件的基线进行比较。实验结果表明，向深度学习框架中添加可解释性组件不会影响预测性能，且模型生成的解释可为临床医生提供洞察，以理解患者死亡背后的可能原因。
引用
@article{arxiv.2110.04598,
title = {Self-explaining Neural Network with Concept-based Explanations for ICU Mortality Prediction},
author = {Sayantan Kumar and Sean C. Yu and Thomas Kannampallil and Zachary Abrams and Andrew Michelson and Philip R. O. Payne},
journal= {arXiv preprint arXiv:2110.04598},
year = {2026}
}
备注
Workshop on Interpretable ML in Healthcare at International Conference on Machine Learning (ICML 2022)