Confucius3-Math：面向中国 K-12 数学学习的轻量级高性能推理 LLM
机器学习
2025-06-26 v2 人工智能
计算与语言
摘要
我们介绍了 Confucius3-Math，这是一个拥有 14B 参数的开源大型语言模型，它 (1) 在单个消费级 GPU 上高效运行；(2) 在各种数学推理任务上实现 SOTA 性能，超过许多规模显著更大的模型。特别是，作为提升教育与知识传播以人工智能为核心的使命，Confucius3-Math 专注于中国 K-12 学生和教育者的数学学习。通过大规模强化学习 (RL) 的后训练，Confucius3-Math 符合国家课程标准，在低成本下解决主流中国 K-12 数学问题方面表现出色。在本报告中，我们分享了我们的开发配方、遇到的挑战以及我们发展的技术。特别是，我们引入了三项技术创新：面向熵正则化的定向策略、最近样本恢复和基于策略的硬度加权。这些创新涵盖了新的熵正则化、一种新的数据调度策略以及改进的组相对优势估计器。总体而言，这些技术显著稳定了 RL 训练，提高了数据效率，并提升了性能。我们的工作证明了在低成本下构建特定领域强大推理模型的可行性。我们在 https://github.com/netease-youdao/Confucius3-Math 上开源了我们的模型和代码。
引用
@article{arxiv.2506.18330,
title = {Confucius3-Math: A Lightweight High-Performance Reasoning LLM for Chinese K-12 Mathematics Learning},
author = {Lixin Wu and Na Cai and Qiao Cheng and Jiachen Wang and Yitao Duan},
journal= {arXiv preprint arXiv:2506.18330},
year = {2025}
}