中文

用于大型语言模型可靠推理的多链图谱细化与选择

计算与语言 2025-12-01 v1 人工智能

摘要

大型语言模型(LLM)的复杂推理能力是其实际应用中的 critical bottleneck。测试时扩张方法,如Tree-of-Thought(ToT)和Graph-of-Thought(GoT),通过引入中间推理结构、树搜索或图基于的探索机制来增强推理。然而,这些方法的推理策略存在多样性有限、冗余搜索分支以及对异构推理路径集成和 error correction不足的问题。为了解决这些限制,我们提出了一种新颖的推理框架,称为Multi-chain Graph Refinement & Selection(MGRS),该框架首先为给定问题生成多个多样化的推理轨迹,然后使用复合的自我和交叉验证策略对候选响应进行细化,随后构建推理关系图并估计中间节点的成功率,最后计算累计成功率以选择最可靠的答案及其对应的推理轨迹。实验结果表明,MGRS显著提升了推理增强方法的推理能力和计算效率。 在覆盖四个不同任务的六个 benchmark 数据集上,MGRS实现了82.9%的平均准确率,明显优于最先进的基线提高了2.1%。值得注意的是,MGRS在24点游戏上实现了100%的准确率,而且相对于领先的Forest of Thoughts框架实现了13.6倍的加速。

关键词

引用

@article{arxiv.2511.23136,
  title  = {Multi-chain Graph Refinement and Selection for Reliable Reasoning in Large Language Models},
  author = {Yujiao Yang and Jing Lian and Linhui Li},
  journal= {arXiv preprint arXiv:2511.23136},
  year   = {2025}
}