基于大语言模型嵌入预测创伤后癫痫
机器学习
2026-04-17 v1
摘要
目标：创伤后癫痫 (PTE) 是一种在创伤性脑损伤 (TBI) 后发生的严重神经系统疾病。早期预测 PTE 因临床数据异质性、阳性病例稀少以及依赖资源密集型神经影像数据而具有挑战性。我们研究了仅利用常规收集的急性临床记录是否可通过基于语言模型的方法支持早期 PTE 预测。方法：我们选取了 TRACK-TBI 队列的精选子集，开发了一个自动化的 PTE 预测框架，采用预训练的大语言模型 (LLM) 作为固定特征提取器对临床记录进行编码。评估了表格特征、LLM 生成的嵌入以及混合特征表示，在分层交叉验证下使用梯度提升树分类器。结果：LLM 嵌入通过捕获上下文临床信息实现了性能提升，优于仅使用表格特征。最佳性能通过模态感知特征融合策略实现，结合表格特征和 LLM 嵌入，获得 AUC-ROC 为 0.892、AUPRC 为 0.798。急性创伤后癫痫发作、损伤严重程度、神经外科干预以及 ICU 停留时间是预测性能的关键因素。意义：我们的发现表明，常规急性临床记录包含了足以通过梯度提升树分类器结合 LLM 嵌入进行早期 PTE 风险预测的信息。该方法为影像基础预测方法的有前景的补充。
引用
@article{arxiv.2604.14547,
title = {Predicting Post-Traumatic Epilepsy from Clinical Records using Large Language Model Embeddings},
author = {Wenhui Cui and Nicholas Swingle and Anand A. Joshi and Dileep Nair and Richard M. Leahy},
journal= {arXiv preprint arXiv:2604.14547},
year = {2026}
}