面向新一代 LLM 的无需训练的临床模型适配
计算与语言
2026-04-30 v3 人工智能
摘要
通过持续预训练和指令调优来适应语言模型以服务于临床领域，需要为每个新模型生成进行昂贵的重新训练。我们提出了跨架构代理调优（CAPT），一种模型集成方法，使能够使用现有临床模型无训练适配最新的通用领域模型。CAPT支持词汇表互不相容的模型，利用对比解码 selectively 注入临床相关信号，同时保留通用领域模型的推理能力和流畅度。在六个临床分类和文本生成任务上，CAPT使用新一代通用领域模型和旧一代临床模型，始终优于单个模型以及最先进的集成方法（在任务上平均优于UniTE提升17.6%，代理调优提升41.4%）。通过词汇级别分析和医生案例研究，我们展示了CAPT放大了临床可操作语言，减少了上下文错误，提高了临床特异性。这一技术尤其受益于计算资源有限的医疗机构，这些机构无法支持迭代式临床训练，却希望采用新一代通用领域模型的进展。
引用
@article{arxiv.2601.03423,
title = {Training-Free Adaptation of New-Generation LLMs using Legacy Clinical Models},
author = {Sasha Ronaghi and Chloe Stanwyck and Asad Aali and Amir Ronaghi and Miguel Fuentes and Tina Hernandez-Boussard and Emily Alsentzer},
journal= {arXiv preprint arXiv:2601.03423},
year = {2026}
}