联邦学习与 RAG 集成：面向医疗大语言模型的可扩展方法
计算与语言
2025-01-09 v2 人工智能
摘要
本研究通过在联邦学习框架内集成检索增强生成（RAG）系统，分析了医疗领域专用大语言模型（LLM）的性能。利用联邦学习在保护数据隐私和支持分布式计算方面的固有优势，本研究探索了将 RAG 系统与在不同客户端配置下训练的模型相集成，以优化性能。实验结果表明，与 RAG 系统集成的基于联邦学习的模型在所有评估指标上均持续优于未集成的对照模型。本研究突出了将联邦学习与 RAG 系统相结合以开发医疗领域专用 LLM 的潜力，为增强文本生成能力提供了一种可扩展且保护隐私的解决方案。
引用
@article{arxiv.2412.13720,
title = {Federated Learning and RAG Integration: A Scalable Approach for Medical Large Language Models},
author = {Jincheol Jung and Hongju Jeong and Eui-Nam Huh},
journal= {arXiv preprint arXiv:2412.13720},
year = {2025}
}