思维树：基于大语言模型的审慎问题求解
计算与语言
2023-12-05 v2 人工智能
机器学习
摘要
语言模型正日益被广泛部署于各类任务的通用问题求解中，但在推理过程中仍局限于 token 级、从左到右的决策过程。这意味着它们在需要探索、战略性前瞻或初始决策起关键作用的任务上可能表现不足。为克服这些挑战，我们引入了一种新的语言模型推理框架——思维树（Tree of Thoughts, ToT），它推广了流行的思维链（Chain of Thought）提示方法，并支持在作为问题求解中间步骤的连贯文本单元（思维）上进行探索。ToT 允许语言模型通过考虑多种不同推理路径并自我评估选择来决定下一步行动，从而进行审慎决策，并在必要时进行前瞻或回溯以做出全局选择。我们的实验表明，ToT 在三个需要非平凡规划或搜索的新任务——24 点游戏、创意写作和迷你填字游戏——上显著增强了语言模型的问题求解能力。例如，在 24 点游戏中，采用思维链提示的 GPT-4 仅解决了 4% 的任务，而我们的方法达到了 74% 的成功率。包含所有提示的代码仓库：https://github.com/princeton-nlp/tree-of-thought-llm。
引用
@article{arxiv.2305.10601,
title = {Tree of Thoughts: Deliberate Problem Solving with Large Language Models},
author = {Shunyu Yao and Dian Yu and Jeffrey Zhao and Izhak Shafran and Thomas L. Griffiths and Yuan Cao and Karthik Narasimhan},
journal= {arXiv preprint arXiv:2305.10601},
year = {2023}
}
备注
NeurIPS 2023 camera ready version. Code repo with all prompts: https://github.com/princeton-nlp/tree-of-thought-llm