PREBA:基于PCA加权检索增强型大语言模型及贝叶斯平均聚合的手术时长预测
机器学习
2026-03-24 v3 人工智能
摘要
准确预测手术时长对于医院资源管理至关重要。尽管最近的监督学习方法——从机器学习到微调的大语言模型(LLM)——显示出良好的性能,但它们仍受限于需要高质量的标记数据和计算密集型训练。在 contrast 中,零样本LLM推理提供了一种无需训练的有前景的替代方案,但缺乏对机构特定临床背景(如当地人口统计和病例混合分布)的 grounding,导致其预测在临床上不一致且容易不稳定。为解决这些限制,我们提出了PREBA,一种检索增强框架,集成PCA加权检索和贝叶斯平均聚合,将LLM预测 grounding 在机构特定的临床证据和统计先验之内。PREBA的核心在于构建一个基于证据的提示语,用于LLM,包括(1)最临床相似的历史手术病例和(2)临床统计先验。为实现这一点,PREBA首先将异构临床特征编码到统一的表示空间,以实现系统化检索。然后进行PCA加权检索,以识别临床相关的历史病例,这些病例构成供给LLM的证据上下文。最后,PREBA应用贝叶斯平均聚合,将多轮LLM预测与人口水平统计先验融合,产生已校准且临床上合理的时长估计。我们在两个真实临床数据集上评估了PREBA,使用三个最先进的LLM,包括Qwen3、DeepSeek-R1和HuatuoGPT-o1。PREBA显著提升了性能——例如,在零样本推理中将MAE降低最高可达40%,R²从-0.13提升至0.62——且达到与监督机器学习方法相当的准确度,显示出强大的有效性和泛化能力。
引用
@article{arxiv.2603.13275,
title = {PREBA: Surgical Duration Prediction via PCA-Weighted Retrieval-Augmented LLMs and Bayesian Averaging Aggregation},
author = {Wanyin Wu and Kanxue Li and Baosheng Yu and Haoyun Zhao and Yibing Zhan and Dapeng Tao and Hua Jin},
journal= {arXiv preprint arXiv:2603.13275},
year = {2026}
}
备注
13 pages