ARise：基于风险自适应搜索的知识增强推理
人工智能
2025-05-27 v2 计算与语言
摘要
大型语言模型（LLM）已展现出惊人的能力，并受到越来越多的关注以通过扩大测试时间计算来增强其推理能力。然而，其在开放式、知识密集型、复杂推理场景中的应用仍有限。推理导向的方法由于隐含完整世界知识的假设，难以泛化到开放式场景。同时，知识增强推理（KAR）方法未能解决两个核心挑战：1）错误传播，早期步骤中的错误会通过链式传递；2）验证瓶颈，在多分支决策过程中出现探索-开发权衡。为克服这些限制，我们引入ARise，一个新型框架，将中间推理状态的风险评估与动态检索-增强生成（RAG）集成到蒙特卡洛树搜索范式中。该方法有效构建和优化多个维护假设分支中的推理计划。实验结果表明，ARise 在最新领先的 KAR 方法中 outperform 最多达23.10%，在最新的配备 RAG 的大规模推理模型中 outperform 最多达25.37%。我们的项目页面位于 https://opencausalab.github.io/ARise。
引用
@article{arxiv.2504.10893,
title = {ARise: Towards Knowledge-Augmented Reasoning via Risk-Adaptive Search},
author = {Yize Zhang and Tianshu Wang and Sirui Chen and Kun Wang and Xingyu Zeng and Hongyu Lin and Xianpei Han and Le Sun and Chaochao Lu},
journal= {arXiv preprint arXiv:2504.10893},
year = {2025}
}
备注
Accepted to ACL 2025 Main. Project homepage: https://opencausalab.github.io/ARise