从未来推理：反向思维链增强 LLM 推理能力
人工智能
2025-06-05 v1
摘要
已证明精心设计的推理范式，如思维链（CoT）和思维树（ToT），可以通过详细思考和广泛思维搜索来增强小语言模型的推理能力，但搜索空间中无界的分支因子导致了 prohibitive 的推理消耗。然而，这些方法陷入了局部最优推理的陷阱，这意味着模型在求解问题时缺乏全局视角。我们提出了一种新的推理范式——从未来推理（RFF），它通过结合自顶向下规划与自底向上推理积累的双向推理来生成推理路径。RFF 的核心在于其反向推理机制，该机制优先处理核心逻辑关系并对中间步骤施加面向目标的约束，从而缩小搜索空间并缓解顺序前向推理中固有的误差累积。跨多样化实验的经验评估表明，RFF 在求解复杂任务时以更高的准确率和更少的搜索空间超越了传统范式。
引用
@article{arxiv.2506.03673,
title = {Reason from Future: Reverse Thought Chain Enhances LLM Reasoning},
author = {Yinlong Xu and Yanzhao Zheng and Shuoshuo Sun and Shuaihan Huang and Baohua Dong and Hangcheng Zhu and Ruohui Huang and Gang Yu and Hongxia Xu and Jian Wu},
journal= {arXiv preprint arXiv:2506.03673},
year = {2025}
}
备注
Accepted by ACL 2025 findings