面向医疗应用的全方位 RAG:大语言模型的综合检索增强生成
计算与语言
2025-06-03 v3
摘要
大型语言模型在解决医疗挑战方面具有潜力,如医学诊断推理、研究知识获取、临床决策和消费者健康咨询等。然而,它们常常因医学知识有限而生成幻觉。因此,纳入外部知识至关重要,这需要多源知识获取。我们将这一挑战建模为源计划问题,即为不同来源的属性制定恰当的查询。现有方法要么忽略源计划,要么因模型对来源期望与实际内容不匹配而未能有效实现。为弥合这一差距,我们提出了 MedOmniKB,一个包含多类型和多结构医学知识来源的存储库。利用这些来源,我们提出了源计划优化方法,以增强多源利用。我们的做法涉及让专家模型探索和评估潜在计划,同时训练较小的模型以学习源对齐。实验结果表明,我们的方法在多源计划性能上显著提升,使优化后的小模型能够在利用多样化医学知识来源方面实现最新成果。
引用
@article{arxiv.2501.02460,
title = {Towards Omni-RAG: Comprehensive Retrieval-Augmented Generation for Large Language Models in Medical Applications},
author = {Zhe Chen and Yusheng Liao and Shuyang Jiang and Pingjie Wang and Yiqiu Guo and Yanfeng Wang and Yu Wang},
journal= {arXiv preprint arXiv:2501.02460},
year = {2025}
}
备注
ACL 2025 Main Conference. Project website: https://github.com/Jack-ZC8/Omni-RAG-Medical