ToRA：面向数学问题求解的工具集成推理智能体
计算与语言
2024-02-22 v4 人工智能
摘要
大型语言模型已在各类语言任务中取得显著进展，但在复杂数学上仍力有不逮。本文中，我们提出 ToRA 一系列工具集成推理智能体（Tool-integrated Reasoning Agents），旨在通过无缝融合自然语言推理与外部工具（如计算库与符号求解器）的使用来解决具有挑战性的数学问题，从而将语言的分析能力与工具的计算效率相结合。为训练 ToRA，我们在数学数据集上策划交互式工具使用轨迹，对标注施加模仿学习，并提出输出空间塑形以进一步精炼模型的推理行为。结果表明，ToRA 模型在 10 个数学推理数据集上以 13%–19% 的平均绝对提升显著优于开源模型。值得注意的是，ToRA-7B 在竞赛级数据集 MATH 上达到 44.6%，以 22% 绝对优势超越最佳开源模型 WizardMath-70B。ToRA-Code-34B 也是首个在 MATH 上准确率超过 50% 的开源模型，其显著优于 GPT-4 的 CoT 结果，并与 GPT-4 借助程序解题的表现相当。此外，我们对工具交互之于数学推理的益处与遗留挑战进行了全面分析，为未来研究提供了宝贵洞见。
引用
@article{arxiv.2309.17452,
title = {ToRA: A Tool-Integrated Reasoning Agent for Mathematical Problem Solving},
author = {Zhibin Gou and Zhihong Shao and Yeyun Gong and Yelong Shen and Yujiu Yang and Minlie Huang and Nan Duan and Weizhu Chen},
journal= {arXiv preprint arXiv:2309.17452},
year = {2024}
}
备注
ICLR 2024; First two authors equal contribution