超树规划：通过分层思考增强大语言模型推理
人工智能
2025-05-30 v2
摘要
近期进展显著提升了大语言模型（LLMs）处理复杂推理任务的性能，在数学和逻辑推理等领域取得了显著成功。然而，这些方法在复杂规划任务中面临挑战，这主要是由于冗长的推理步骤、多样化的约束条件以及处理多个不同子任务的困难。为了应对这些挑战，我们提出了超树规划（HTP），这是一种新颖的推理范式，它构建超树结构的规划大纲以实现有效规划。超树结构使 LLM 能够通过灵活运用分治策略进行分层思考，有效地分解复杂的推理步骤，适应多样化的约束，并以组织良好的方式管理多个不同的子任务。我们进一步引入了一个自主规划框架，通过迭代优化和扩展超树结构的规划大纲来完成规划过程。实验证明了 HTP 的有效性，在使用 Gemini-1.5-Pro 的 TravelPlanner 基准测试上达到了最先进的准确率，性能比 o1-preview 提升了 3.6 倍。
引用
@article{arxiv.2505.02322,
title = {HyperTree Planning: Enhancing LLM Reasoning via Hierarchical Thinking},
author = {Runquan Gui and Zhihai Wang and Jie Wang and Chi Ma and Huiling Zhen and Mingxuan Yuan and Jianye Hao and Defu Lian and Enhong Chen and Feng Wu},
journal= {arXiv preprint arXiv:2505.02322},
year = {2025}
}
备注
arXiv admin note: text overlap with arXiv:2406.14228 by other authors