多模态Transformer：融合临床文本与结构化EHR数据用于可解释院内死亡预测
计算与语言
2023-05-10 v2
摘要
基于深度学习的利用结构化电子健康记录（EHR）的临床决策支持在死亡与疾病风险预测中一直是活跃的研究领域。同时，大量叙述性临床文本提供互补信息，却常未被整合进预测模型。本文中，我们提出一种新颖的多模态Transformer，融合临床文本与结构化EHR数据以更好地预测院内死亡。为提升可解释性，我们提出集成梯度（integrated gradients, IG）方法选取临床文本中的重要词，并利用Shapley值发现关键的结构化EHR特征。这些重要词与临床特征被可视化以辅助解释预测结果。我们还研究了领域自适应预训练与任务自适应微调在Clinical BERT上的重要性，该模型用于学习临床文本的表示。实验表明我们的模型优于其他方法（AUCPR: 0.538, AUCROC: 0.877, F1:0.490）。
引用
@article{arxiv.2208.10240,
title = {A Multimodal Transformer: Fusing Clinical Notes with Structured EHR Data for Interpretable In-Hospital Mortality Prediction},
author = {Weimin Lyu and Xinyu Dong and Rachel Wong and Songzhu Zheng and Kayley Abell-Hart and Fusheng Wang and Chao Chen},
journal= {arXiv preprint arXiv:2208.10240},
year = {2023}
}
备注
AMIA Annual Symposium Proceedings 2022