学习数学问题解决是否能广泛推广到更广泛的推理中？
计算与语言
2025-07-08 v1
摘要
人们越来越关注增强大型语言模型的数学问题解决（MPS）能力。虽然大多数研究努力集中在创建专门的模型来解决数学问题，但如何学习数学问题解决 generalizes（推广）以帮助发展其他推理能力仍是未知的。在本文中，我们对各种 MPS 训练方法的 generalization（推广）潜力进行了实证调查，包括包括短链与长链的思考链（CoT）样本的持续预训练、指令调优和基于规则的强化学习。评估 5 个数学基准和 8 个通用推理基准显示，针对数学文本进行持续预训练能够在一定程度上推广到一般推理任务。相比之下，针对常规短 MPS 样本进行指令调优仅能提供有限的益处，并且在许多情况下甚至会损害 generalization 性能。值得注意的是，针对 MPS 样本进行长 CoT 响应训练以及在 MPS 查询中采用基于规则的强化学习表现出不同行为，显著通过扩展模型的推理过程到其他领域来增强 generalization。这些结果表明，传统的方法通过短推理链学习 MPS 很大程度上无法实现稳健的 generalization。然而，随着更长的推理链范式以及自我反思的出现，为通过学习专门领域中的问题提高通用推理能力提供了有前景的方向。
引用
@article{arxiv.2507.04391,
title = {Does Learning Mathematical Problem-Solving Generalize to Broader Reasoning?},
author = {Ruochen Zhou and Minrui Xu and Shiqi Chen and Junteng Liu and Yunqi Li and Xinxin Lin and Zhengyu Chen and Junxian He},
journal= {arXiv preprint arXiv:2507.04391},
year = {2025}
}