分层思维链提示:提升大语言模型推理性能与效率
计算与语言
2026-04-02 v1
摘要
思维链(CoT)提示显著提升了大语言模型(LLM)的推理能力。然而,传统 CoT 往往依赖无结构的扁平推理链,存在冗余且性能欠佳。在本工作中,我们引入分层思维链(Hi-CoT)提示,一种专门针对复杂多步推理挑战的结构化推理范式。Hi-CoT 通过在指令规划与逐步执行之间交替,将推理过程分解为分层子步骤。该分解使 LLM 能够更好地管理长推理跨度并保持逻辑一致性。在多种 LLM 和数学推理基准上的广泛评估表明,与 CoT 提示相比,Hi-CoT 平均准确率一致提升 6.2%(在某些模型和任务上高达 61.4%),同时推理轨迹长度减少 13.9%。我们进一步表明,当模型严格遵循分层结构时,准确率和效率达到最大。我们的代码可在 https://github.com/XingshuaiHuang/Hi-CoT 获取。
引用
@article{arxiv.2604.00130,
title = {Hierarchical Chain-of-Thought Prompting: Enhancing LLM Reasoning Performance and Efficiency},
author = {Xingshuai Huang and Derek Li and Bahareh Nikpour and Parsa Omidi},
journal= {arXiv preprint arXiv:2604.00130},
year = {2026}
}