BERTSurv：基于 BERT 的生存模型用于创伤患者结局预测
人工智能
2021-03-22 v1 机器学习
摘要
生存分析是一种预测特定结局发生时间的技术，广泛用于重症监护病房（ICU）创伤患者结局预测。近来，深度学习模型在医疗健康领域受到越来越多的关注。然而，缺乏能够建模测量值、临床记录与死亡结局之间关系的深度学习方法。本文引入 BERTSurv，一种深度学习生存框架，其将来自 Transformer 的双向编码器表示（BERT）作为语言表示模型应用于非结构化临床记录，用于死亡预测与生存分析。我们还在 BERTSurv 中纳入了临床测量值。使用二元交叉熵（BCE）损失时，BERTSurv 可将死亡作为二元结局进行预测（死亡预测）；使用偏似然（PLL）损失时，BERTSurv 将死亡概率作为时间至事件结局进行预测（生存分析）。我们将 BERTSurv 应用于重症监护医学信息集市 III（MIMIC III）创伤患者数据。对于死亡预测，BERTSurv 获得了受试者工作特征曲线下面积（AUC-ROC）为 0.86，较无记录的多层感知机（MLP）基线提升 3.6%。对于生存分析，BERTSurv 取得了一致性指数（C-index）0.7。此外，BERT 注意力头的可视化有助于提取临床记录中的模式，并通过展示模型如何对不同输入分配权重来提升模型可解释性。
引用
@article{arxiv.2103.10928,
title = {BERTSurv: BERT-Based Survival Models for Predicting Outcomes of Trauma Patients},
author = {Yun Zhao and Qinghang Hong and Xinlu Zhang and Yu Deng and Yuqing Wang and Linda Petzold},
journal= {arXiv preprint arXiv:2103.10928},
year = {2021}
}
备注
ICDM 2021