基于知识蒸馏的多变量临床时间序列脓毒症结局预测方法
机器学习
2023-11-17 v1
摘要
脓毒症是由极端感染反应引发的危及生命的病症。我们的目标是通过脓毒症患者的病史与治疗记录预测其结局，同时学习可解释的状态表示以评估患者发生各种不良结局的风险。尽管神经网络在结局预测方面表现出色，但其有限的可解释性仍是一个关键问题。在本工作中，我们通过约束变分推断进行知识蒸馏，将预测能力强大的“教师”神经网络模型的知识提炼出来，用于训练一个“学生”隐变量模型，以学习可解释的隐状态表示，从而在脓毒症结局预测中实现高预测性能。利用来自 MIMIC-IV 数据库的真实世界数据，我们训练了一个 LSTM 作为“教师”模型，根据脓毒症患者近期生命体征、实验室指标和治疗信息预测其死亡率。对于“学生”模型，我们使用自回归隐马尔可夫模型（AR-HMM）从患者临床时间序列中学习可解释的隐状态，并利用所学状态表示的后验分布预测多种下游结局，包括院内死亡率、肺水肿、利尿剂需求、透析需求以及机械通气需求。我们的结果表明，该方法成功引入约束，在保持生成性能的同时，实现了与教师模型相近的高预测能力。
引用
@article{arxiv.2311.09566,
title = {A Knowledge Distillation Approach for Sepsis Outcome Prediction from Multivariate Clinical Time Series},
author = {Anna Wong and Shu Ge and Nassim Oufattole and Adam Dejl and Megan Su and Ardavan Saeedi and Li-wei H. Lehman},
journal= {arXiv preprint arXiv:2311.09566},
year = {2023}
}
备注
Extended Abstract presented at Machine Learning for Health (ML4H) symposium 2023, December 10th, 2023, New Orleans, United States, 12 pages