面向提升数学竞赛成绩的逐步编码（SBSC）
人工智能
2025-02-26 v1 计算与语言
机器学习
摘要
我们提出了逐步编码（Step-by-Step Coding, SBSC）：一个多轮数学推理框架，使大型语言模型（LLM）能够为解决奥林匹克水平数学问题生成程序序列。在每一步/轮中，利用前几步的代码执行输出和程序，模型生成下一个子任务及其对应的程序以进行求解。如此一来，SBSC 依次遍历以到达最终答案。与现有方法相比，SBSC 提供了更细粒度、更灵活、更精确的方法。大量实验表明，SBSC 在处理竞赛和奥林匹克水平数学问题方面效果显著。对于 Claude-3.5-Sonnet，SBSC（贪婪解码）在 AMC12 上的准确率提高了绝对 10.7%，AIME 上提高了 8%，MathOdyssey 上提高了 12.6%。鉴于 SBSC 是多轮的，我们还对 SBSC 的贪婪解码与现有 SOTA 数学推理策略的自洽解码进行了比较，观察到在 AMC 上提高了绝对 6.2%，AIME 上提高了 6.7%，MathOdyssey 上提高了 7.4%。
引用
@article{arxiv.2502.16666,
title = {SBSC: Step-By-Step Coding for Improving Mathematical Olympiad Performance},
author = {Kunal Singh and Ankan Biswas and Sayandeep Bhowmick and Pradeep Moturi and Siva Kishore Gollapalli},
journal= {arXiv preprint arXiv:2502.16666},
year = {2025}
}
备注
Published as a full conference paper at ICLR 2025. Shorter(Early) Version accepted at NeurIPS'24 MATH-AI track