面向 LLM 医疗预测的高效且有效的内部记忆检索
计算与语言
2026-04-10 v1
摘要
大语言模型 (LLM) 对医疗领域具有巨大潜力，但因幻觉现象和缺乏细粒度医学上下文，往往在高风险临床环境中不可靠。虽然检索增强生成 (RAG) 可缓解这些问题，但标准的监督式管道需要在庞大的外部知识库上进行计算密集的搜索，导致高延迟，难以满足临床中对即时护理的需求。为此，我们引入 Keys to Knowledge (K2K)，一种新型框架，取代外部检索，采用内部基于键的知识访问。通过将关键临床信息编码到模型参数空间中，K2K 能够在无推理时延的前提下从内部键值记忆中进行快速检索。我们进一步通过激活引导的探针构建和交叉注意力重新排序来提升检索质量。实验结果表明，K2K 在四个医疗预后预测数据集上实现了最先进的性能。
引用
@article{arxiv.2604.07659,
title = {Efficient and Effective Internal Memory Retrieval for LLM-Based Healthcare Prediction},
author = {Mingchen Li and Jiatan Huang and Zonghai Yao and Hong yu},
journal= {arXiv preprint arXiv:2604.07659},
year = {2026}
}
备注
ACL 2026 (Findings), reviewer score: 3.5,3.5,4