基于人物驱动的数据增强提升数学推理能力
计算与语言
2025-02-24 v2
摘要
虽然闭源大型语言模型 (LLM) 在数学问题解决方面表现出色，但开源模型仍面临此类任务的挑战。为弥合这一差距，我们提出一种数据增强方法，并引入 PersonaMathQA 数据集，该数据集源自 MATH 和 GSM8K 数据集。我们基于 Qwen2.5-7B 构建的 PersonaMath-7B 模型在 MATH 数据集上取得61.2%的准确率，在 GSM8K 数据集上取得87.8%的准确率，超越所有基线方法，实现最先进的性能。值得注意的是，虽然我们的数据集仅包含12.89万个数据点——仅为 MetaMathQA 的32.6%和 MathInstruct 的49.5%，但我们的模型仍优于这些基线，表明我们数据集的高质量和多样性使模型训练更为高效。我们将 PersonaMathQA 数据集、PersonaMath 模型以及相关代码开源，以供公众使用。
引用
@article{arxiv.2410.01504,
title = {PersonaMath: Boosting Mathematical Reasoning via Persona-Driven Data Augmentation},
author = {Jing Luo and Longze Chen and Run Luo and Liang Zhu and Chang Ao and Jiaming Li and Yukun Chen and Xin Cheng and Wen Yang and Jiayuan Su and Ahmadreza Argha and Hamid Alinejad-Rokny and Chengming Li and Shiwen Ni and Min Yang},
journal= {arXiv preprint arXiv:2410.01504},
year = {2025}
}