解释循环神经网络对 ICU 死亡风险的预测
机器学习
2021-01-14 v4 人工智能
机器学习
摘要
深度学习已在许多应用中展现出成功；然而，由于缺乏对如何生成预测的透明性，其在医疗健康中的使用受到限制。诸如循环神经网络（RNNs）等算法应用于电子病历（EMR）时，由于 RNN 的序列处理以及 EMR 数据的多模态性质，引入了额外的透明性障碍。本工作旨在通过以下方式提升透明性：1）引入学习二元掩码（LBM）作为识别哪些 EMR 变量对 RNN 模型儿童危重死亡风险（ROM）预测有贡献的方法；以及 2）应用 KernelSHAP 用于同一目的。给定个体患者，LBM 与 KernelSHAP 均生成归因矩阵，显示每个输入特征对该患者 RNN 序列预测的 contribution。归因矩阵可通过多种方式进行聚合，以促进对 RNN 模型及其预测的不同层次分析。本文给出三种聚合与分析方法：1）个体患者预测中易变时间段内，2）共享特定诊断的 ICU 患者群体上，以及 3）危重儿童一般群体上。
引用
@article{arxiv.1905.09865,
title = {Interpreting a Recurrent Neural Network's Predictions of ICU Mortality Risk},
author = {Long V. Ho and Melissa D. Aczon and David Ledbetter and Randall Wetzel},
journal= {arXiv preprint arXiv:1905.09865},
year = {2021}
}