EvidenceMap：用于解放小型语言模型在生物医学问答中的能力的证据分析学习
计算与语言
2025-09-03 v4 人工智能
摘要
在解答生物医学领域的专业问题时，人类通常会获取多 piece of information 作为证据并进行多层次分析以提供高质量的答案。当前的基于大语言模型 (LLM) 的问答方法缺乏对证据分析的详细定义和学习过程，导致在使用证据时存在误差传播和幻觉的风险。虽然增加 LLM 的参数大小可以缓解这些问题，但也带来了在资源有限的情况下进行训练和部署的挑战。在本研究中，我们提出了 EvidenceMap，旨在使小型预训练语言模型能够显式学习生物医学证据的多个方面，包括支持性评估、逻辑关联和内容概括，从而潜在地引导一个小型生成模型（约3B参数）提供文本响应。实验结果表明，我们的方法通过仅使用66M参数的模型进行微调，分别在 reference-based quality 和 accuracy 上分别超过了8B参数的 RAG 方法提升了19.9%和5.7%。
关键词
引用
@article{arxiv.2501.12746,
title = {EvidenceMap: Learning Evidence Analysis to Unleash the Power of Small Language Models for Biomedical Question Answering},
author = {Chang Zong and Jian Wan and Siliang Tang and Lei Zhang},
journal= {arXiv preprint arXiv:2501.12746},
year = {2025}
}
备注
13 pages, 6 figures