思维树作为经典启发式搜索问题：形式基础与设计模式

大语言模型 (LLM) 在推理能力方面展现出惊人的能力，但其标准的生成过程——自回归标记预测——本质上具有局限性，容易引发级联错误。为此，思维树 (Tree-of-Thoughts, ToT) 框架在中间推理步骤上创建搜索空间，允许搜索模型探索、提前查看和回溯。然而，当前的 ToT 研究在自然语言处理和自动规划社区之间仍不统一，常使用不一致的术语和不成熟的实现方式。因此，我们基于经典启发式搜索术语构建了 ToT 领域的统一分类法。我们将 LLM 基于推理映射到经典搜索组件：状态表示（思维的粒度）、后继生成（提示操作符）和启发式评估（对进展的自评估）。我们在我们的分类法的背景下分析现有工作，并识别出 emerging 的设计模式：针对浅层确定性任务的系统搜索（最佳优先搜索）以及针对深层多步骤推理的前瞻性策略（深度优先搜索、蒙特卡津树搜索）。我们最后指出了启发式搜索与 LLM 推理交叉点的开放性算法挑战，并呼吁启发式搜索社区参与到这一新兴领域。