GPT无需计算器即可解决数学问题
机器学习
2023-09-13 v2 人工智能
计算与语言
摘要
先前研究通常假设大型语言模型无法准确执行算术运算，特别是>8位数的乘法，以及涉及小数与分数的运算，除非使用计算器工具。本文旨在挑战这一误解。在充足训练数据下，一个20亿参数的语言模型无需数据泄露即可几乎以100%准确率准确执行多位数算术运算，显著超越GPT-4（其多位数乘法准确率仅4.3%）。我们还展示了我们的MathGLM，在带有额外多步算术运算及文本描述数学问题数据集上从GLM-10B微调而来，在一个5000样本的中文数学问题测试集上取得了与GPT-4相似的性能。我们的代码与数据已公开于 https://github.com/THUDM/MathGLM。
引用
@article{arxiv.2309.03241,
title = {GPT Can Solve Mathematical Problems Without a Calculator},
author = {Zhen Yang and Ming Ding and Qingsong Lv and Zhihuan Jiang and Zehai He and Yuyi Guo and Jinfeng Bai and Jie Tang},
journal= {arXiv preprint arXiv:2309.03241},
year = {2023}
}
备注
26pages,14figures