KidneyTalk-open：基于医学文档增强知识库的无代码私有大语言模型部署用于肾病
人工智能
2025-03-07 v1
摘要
肾病的隐私保护医疗决策支持需要本地化部署大语言模型（LLMs），同时保持临床推理能力。当前方案面临三个挑战：1）基于云的LLMs存在数据安全风险；2）本地模型部署需要技术专长；3）通用LLMs缺乏整合医学知识的机制。检索增强系统也难以处理医学文档和临床可用性。我们开发了KidneyTalk-open，一个桌面系统，集成了三个技术组件：1）通过本地推理引擎实现最先进（SOTA）开源LLMs（如DeepSeek-r1、Qwen2.5）的无代码部署；2）结合上下文感知分块和智能过滤的医学文档处理流水线；3）采用智能体协作的自适应检索与增强流水线（AddRep），用于提高医学文档的召回率。设计了图形界面使临床医生无需技术专长即可管理医学文档并进行AI驱动的咨询。在1455道具有挑战性的肾病考试题目上的实验验证了AddRep的有效性：以智能知识整合实现了29.1%的准确率（较基线提升8.1%），同时通过4.9%的拒绝率保持鲁棒性以抑制幻觉。与主流产品（AnythingLLM、Chatbox、GPT4ALL）的对比案例研究证明了KidneyTalk-open在实际临床查询中的优越性能。KidneyTalk-open是首个实现桌面端安全文档增强医学问答的无代码医学LLM系统。其设计为隐私敏感型临床AI应用建立了新框架。该系统显著降低了技术门槛，同时提高了证据可追溯性，使更多医护人员或患者能够便捷地使用SOTA开源LLMs。
引用
@article{arxiv.2503.04153,
title = {KidneyTalk-open: No-code Deployment of a Private Large Language Model with Medical Documentation-Enhanced Knowledge Database for Kidney Disease},
author = {Yongchao Long and Chao Yang and Gongzheng Tang and Jinwei Wang and Zhun Sui and Yuxi Zhou and Shenda Hong and Luxia Zhang},
journal= {arXiv preprint arXiv:2503.04153},
year = {2025}
}
备注
Corresponding authors: [email protected]; [email protected]; [email protected]