BioRAG：面向生物学问题推理的RAG-LLM框架
计算与语言
2024-08-15 v2 人工智能
信息检索
摘要
生命科学领域的问答系统因发现节奏快、见解不断演进以及知识实体间复杂相互作用，面临着维护完整知识仓库和准确信息检索的独特挑战。为此，我们提出BioRAG，一种基于检索增强生成(Retrieval-Augmented Generation, RAG)的大语言模型( Large Language Models, LLM)框架。该方法首先解析、索引并分割2200万篇科学论文作为基础知识，然后训练领域专用嵌入模型。此外，我们引入领域特定知识层次结构，增强向量检索过程，有助于建模查询与上下文之间的复杂关系。对于需要最新信息的查询，BioRAG通过解构问题并采用集成搜索引擎的迭代检索流程，实现逐步推理。严格实验表明，在多项生命科学问答任务中，BioRAG超越了微调LLM、结合搜索引擎的LLM以及其他科学RAG框架的性能。
引用
@article{arxiv.2408.01107,
title = {BioRAG: A RAG-LLM Framework for Biological Question Reasoning},
author = {Chengrui Wang and Qingqing Long and Meng Xiao and Xunxin Cai and Chengjun Wu and Zhen Meng and Xuezhi Wang and Yuanchun Zhou},
journal= {arXiv preprint arXiv:2408.01107},
year = {2024}
}
备注
12 pages, 7 figures