ControlMath：可控数据生成促进数学通用模型
机器学习
2024-09-25 v1 人工智能
计算与语言
摘要
利用大型语言模型（LLMs）进行数据增强在数学推理方面取得了令人鼓舞的效果。然而，这些方法在问题多样性方面存在限制，可能使其仅限于特定领域/分布的数据生成。为此，我们提出ControlMath，一种包含方程生成模块和两个LLM代理的迭代方法。该模块创建多样化的方程，Problem-Crafter代理将其转化为数学 word problem。Reverse-Agent过滤并筛选高质量数据，遵循“少即是多”原则，以更少的数据点获得更好效果。这种方法使我们能够生成不受特定领域或分布限制的多样化数学问题。因此，我们收集了ControlMathQA，包含19万道数学 word problem。大量实验结果表明，将我们的数据集与像GSM8K这样的领域内数据集结合使用，可以帮助提高模型在数学推理方面的泛化能力，使模型在特定领域内外表现均得到提升。
引用
@article{arxiv.2409.15376,
title = {ControlMath: Controllable Data Generation Promotes Math Generalist Models},
author = {Nuo Chen and Ning Wu and Jianhui Chang and Jia Li},
journal= {arXiv preprint arXiv:2409.15376},
year = {2024}
}
备注
17 pages