思想计划：基于大语言模型的启发式问题解决方法

Houjun Liu

思想计划：基于大语言模型的启发式问题解决方法

计算与语言 2024-05-01 v1

作者: Houjun Liu

摘要

尽管语言模型 (LM) 在跨领域的零样本推理任务中展现出重要能力，但在需要多步推理的问题上表现不佳。以往的改进方法涉及将大型多步骤任务拆分为子任务，要求语言模型为每个子任务生成方案（"思想"），并采用深度优先搜索等穷举规划方法进行组合。本文引入两种新方法：首先，我们正式化一种基于部分可观测马尔可夫决策过程 (POMDP) 的规划方法，通过利用语言模型对状态价值价值的反思作为搜索启发式；其次，借助在线POMDP求解器 POMCP，我们在24点游戏任务上实现了89.4%的优异成功率，优于现有方法，同时在即时性能方面优于以往使用的固定树搜索。这些方法的结合，使现代语言模型能够更有效地分解和解决更大规模的推理任务。

关键词

大语言模型多步推理部分可观测马尔可夫决策过程启发式搜索 24点游戏

引用

@article{arxiv.2404.19055,
  title  = {Plan of Thoughts: Heuristic-Guided Problem Solving with Large Language Models},
  author = {Houjun Liu},
  journal= {arXiv preprint arXiv:2404.19055},
  year   = {2024}
}

备注

7 pages, 2 figures

思想计划：基于大语言模型的启发式问题解决方法

摘要

关键词

引用

备注

相关论文