思维链推理的演绎验证

大语言模型（LLMs）在执行各类推理任务时，从思维链（CoT）提示中显著受益。尽管 CoT 使模型能够生成更全面的推理过程，但其对中间推理步骤的强调可能无意中引入幻觉与累积错误，从而限制模型解决复杂推理任务的能力。受人类通过细致严谨的演绎逻辑推理过程解决问题的启发，我们致力于使语言模型执行显式且严格的演绎推理，并通过自验证确保推理过程的可信度。然而，即便借助 ChatGPT 等先进模型，直接验证整个演绎推理过程的有效性仍具挑战。有鉴于此，我们提出将推理验证过程分解为一系列逐步子过程，每个子过程仅接收其必要的上下文与前提。为促成该流程，我们提出 Natural Program，一种基于自然语言的演绎推理格式。我们的方法使模型能够生成精确的推理步骤，其中后续步骤更严格地基于先前步骤。它还使语言模型能够以逐步方式执行推理自验证。通过将此验证过程整合进每个演绎推理阶段，我们显著增强了所生成推理步骤的严谨性与可信度。在此过程中，我们也提升了在复杂推理任务上的答案正确性。代码将发布于 https://github.com/lz1oceani/verify_cot。