中文

We-Math 2.0:激励视觉数学推理的通用 MathBook 系统

人工智能 2025-08-15 v1 计算机视觉与模式识别 机器学习

摘要

多模态大语言模型(MLLM)在各类任务中展现出惊人的能力,但在复杂数学推理方面仍面临挑战。现有研究主要关注数据构建和方法优化,往往忽视两个关键方面:全面的知识驱动设计和模型导向的数据空间建模。本文引入 We-Math 2.0,一个统一系统,整合了结构化数学知识体系、模型导向的数据空间建模和基于强化学习(RL)的训练范式,全面提升 MLLM 的数学推理能力。We-Math 2.0 的关键贡献包括四点:(1)MathBook 知识体系:构建五层层次体系,涵盖 491 个知识点和 1,819 个基本原理。(2)MathBook-Standard 与 Pro:开发 MathBook-Standard,通过双重扩展确保广泛概念覆盖和灵活性。同时定义三维难度空间并生成每个问题的 7 个渐进变体,构建用于稳健训练的 MathBook-Pro。(3)MathBook-RL:提出两阶段 RL 框架:(i)Cold-Start 微调,对齐模型与知识导向的链式思维推理;(ii)渐进对齐 RL,利用平均奖励学习和动态数据调度实现难度水平的渐进对齐。(4)MathBookEval:引入覆盖所有 491 个知识点且具有多样化推理步骤分布的综合基准。实验结果表明,MathBook-RL 在四个广泛使用的基准上表现具有竞争力,并在 MathBookEval 上取得优异成绩,表明其在数学推理方面具有良好的泛化潜力。

关键词

引用

@article{arxiv.2508.10433,
  title  = {We-Math 2.0: A Versatile MathBook System for Incentivizing Visual Mathematical Reasoning},
  author = {Runqi Qiao and Qiuna Tan and Peiqing Yang and Yanzi Wang and Xiaowan Wang and Enhui Wan and Sitong Zhou and Guanting Dong and Yuchen Zeng and Yida Xu and Jie Wang and Chong Sun and Chen Li and Honggang Zhang},
  journal= {arXiv preprint arXiv:2508.10433},
  year   = {2025}
}

备注

Working in progress