形式化推理：自然-形式混合推理增强 LLM 的数学能力
人工智能
2025-10-14 v4 计算与语言
摘要
增强 LLM 的数学推理能力在数学和计算机科学界引起了广泛关注。近期的研究通过在基础模型上利用纯强化学习（RL）方法的潜力，在自然语言（NL）推理和形式语言（FL）推理方面均取得了重大进展。然而，RL 方法难以赋予基础模型中未呈现的新能力，这凸显了将更多知识（如 FL）有效融入 NL 数学推理的需求。但是，由于 NL 和 FL 在问题结构和推理格式上存在固有差异，这种融合极具挑战性。为了应对这些挑战，我们引入了 **NL-FL HybridReasoning (NFL-HR)**，这是一个旨在将 FL 专家纳入 NL 数学问题求解的端到端框架。为了弥合 NL 和 FL 输入格式上的差距，我们提出了 NL-FL 问题对齐方法，将 NL 中的问答（QA）问题重新表述为 FL 中的存在性定理。随后，我们提供的混合问题输入技术使 FL 推理器能够同时处理 QA 问题和存在性问题。最后，我们通过基于 LLM 的答案提取机制缓解了推理中 NL 和 FL 输出格式的差距。综合实验表明，NFL-HR 框架在 MATH-500 和 AMC 基准测试上分别达到了 **89.80**% 和 **84.34%** 的准确率，分别比 NL 基线高出了 **4.60%** 和 **4.82%**。值得注意的是，即使进行更多次尝试，我们的框架能解决的一些问题依然令 NL 基线模型无法解决。
引用
@article{arxiv.2505.23703,
title = {Let's Reason Formally: Natural-Formal Hybrid Reasoning Enhances LLM's Math Capability},
author = {Ruida Wang and Yuxin Li and Yi R. Fung and Tong Zhang},
journal= {arXiv preprint arXiv:2505.23703},
year = {2025}
}