传统模型与深度学习模型在纵向医疗记录上的可解释性
机器学习
2022-11-23 v1 人工智能
摘要
深度学习的近期进展引发了在纵向医疗记录上训练深度学习模型以预测一系列医疗事件的兴趣，相关模型展现出较高的预测性能。然而，预测性能必要但不充分，模型给出的解释与推理对于说服临床医生持续使用是必需的。可解释性的严格评估常常缺失，因为模型间（传统模型与深度学习模型）以及各种可解释性方法的比较尚未得到充分研究。此外，评估可解释性所需的真值可能高度主观，取决于临床医生的视角。我们的工作是首批在纵向医疗数据上，于全局和个体逐预测层面评估传统模型（XGBoost）与深度学习模型（带注意力的 LSTM）之间及各自内部可解释性性能的研究之一。我们使用三种流行方法比较可解释性：1) SHapley Additive exPlanations (SHAP)，2) Layer-Wise Relevance Propagation (LRP)，以及 3) Attention。这些实现应用于带有设计真值的合成生成数据集和一个真实世界的医疗保险索赔数据集。我们表明，总体而言，带有 SHAP 或 LRP 的 LSTM 在全局和局部层面均比 XGBoost 提供更优的可解释性，而带点积注意力的 LSTM 未能产生合理的解释。随着医疗数据量的激增与深度学习的进步，评估可解释性的需求对于深度学习模型在医疗环境中的成功采用将至关重要。
引用
@article{arxiv.2211.12002,
title = {Explainability of Traditional and Deep Learning Models on Longitudinal Healthcare Records},
author = {Lin Lee Cheong and Tesfagabir Meharizghi and Wynona Black and Yang Guang and Weilin Meng},
journal= {arXiv preprint arXiv:2211.12002},
year = {2022}
}
备注
21 pages, 10 figures