面向可执行推理的数学问题中的基于干扰因子的图生成
计算与语言
2026-03-31 v2 机器学习
摘要
链式思维(CoT)提示法在数学问题解决中广泛应用，包括在低资源语言中，但在无关上下文下的行为却鲜有探讨。为系统性地研究这一挑战，我们引入 DISTRACTMATH-BN，一个增强 MGSM 和 MSVAMP 且包含语义连贯但计算上无关信息的 Bangla 基准数据集。评估了 3B 到 12B 参数的七个模型，我们观察到在干扰因子下的性能显著下降：标准模型下降最高可达 41 分，而推理专用模型下降 14 到 20 分，尽管消耗了五倍以上的 token。我们提出了 {\dag}DAGGER，通过显式建模干扰节点，将数学问题解决重新表述为可执行计算图生成。通过监督式微调 followed by Group Relative Policy Optimization 对 Gemma-3 模型进行微调，可在增强基准上实现相当的加权准确率，同时使用 89 percent 更少的 token 即可完成。重要的是，这种鲁棒性是在没有针对干扰增强示例进行显式训练的情况下实现的。我们的结果表明，强制执行结构化中间表示可提高数学推理中的鲁棒性和推理效率，尤其是在噪声环境和低资源设置下相对于自由形式方法具有显著优势。
关键词
引用
@article{arxiv.2601.06853,
title = {{\dag}DAGGER: Distractor-Aware Graph Generation for Executable Reasoning in Math Problems},
author = {Zabir Al Nazi and Shubhashis Roy Dipta and Sudipta Kar},
journal= {arXiv preprint arXiv:2601.06853},
year = {2026}
}