我们能否使用大语言模型为临床时间序列数据生成可携带的表示？
机器学习
2026-04-21 v2
摘要
临床机器学习的部署缓慢且脆弱：在一家医院上工作的模型在下一家医院的分布迁移下往往性能下降。在本工作中，我们研究了一个简单问题——大型语言模型（LLMs）能否创建可携带的患者嵌入表示，即 enable a downstream predictor built on one hospital to be used elsewhere with minimal-to-no retraining and fine-tuning. 为此，我们将不规则 ICU 时间序列映射到简洁的自然语言摘要上，使用冻结的 LLM，然后通过冻结文本嵌入模型为每个摘要获取固定长度向量，可作为各种下游预测器的输入。在三个队列（MIMIC-IV、HIRID、PPICU）上进行多个临床导向的预测和分类任务，我们发现该方法简单、易用，且在网格插值、无监督表示学习和时间序列基础模型的 with in-distribution with 中具有竞争力，同时在将模型迁移到新医院时表现出较小的相对性能下降。我们研究了 prompt design 方面的性能差异，发现结构化提示对于在不改变平均准确率的前提下减少预测模型的方差至关重要。我们发现使用这些可携带的表示有助于 few-shot learning，并且不会相对于基线增加人口统计学可辨识性（如年龄或性别），表明额外的隐私风险较小。我们的工作指向了大型语言模型作为工具的潜力，以降低生产级预测模型的工程开销，从而实现可扩展的部署。
引用
@article{arxiv.2603.23987,
title = {Can we generate portable representations for clinical time series data using LLMs?},
author = {Zongliang Ji and Yifei Sun and Andre Amaral and Anna Goldenberg and Rahul G. Krishnan},
journal= {arXiv preprint arXiv:2603.23987},
year = {2026}
}
备注
Accepted to the 14th International Conference on Learning Representations (ICLR 2026)