RAG-Star：通过检索增强验证与细化增强审议推理
计算与语言
2024-12-18 v1 人工智能
摘要
现有大语言模型（LLMs）展现出卓越的问题解决能力，但在复杂推理任务上可能仍显吃力。尽管思维链和基于树的搜索方法取得了成功，但它们主要依赖 LLM 的内部知识来搜索中间推理步骤，仅限于处理涉及较少推理步骤的简单任务。在本文中，我们提出了 \textbf{RAG-Star}，一种新颖的 RAG 方法，它将检索到的信息整合到依赖 LLM 固有知识的基于树的审议推理过程中。通过利用蒙特卡洛树搜索，RAG-Star 迭代地规划中间子查询和答案，以基于 LLM 本身进行推理。为了整合内部和外部知识，我们提出了一种检索增强验证，利用查询和答案感知的奖励建模为 LLM 的固有推理提供反馈。我们涉及 Llama-3.1-8B-Instruct 和 GPT-4o 的实验表明，RAG-Star 显著优于先前的 RAG 和推理方法。
引用
@article{arxiv.2412.12881,
title = {RAG-Star: Enhancing Deliberative Reasoning with Retrieval Augmented Verification and Refinement},
author = {Jinhao Jiang and Jiayi Chen and Junyi Li and Ruiyang Ren and Shijie Wang and Wayne Xin Zhao and Yang Song and Tao Zhang},
journal= {arXiv preprint arXiv:2412.12881},
year = {2024}
}
备注
LLM;RAG;MCTS