训练验证器以解决数学应用题
机器学习
2021-11-19 v2 计算与语言
摘要
最先进的语言模型在许多任务上可匹敌人类表现，但它们仍难以稳健地进行多步数学推理。为诊断当前模型的失败并支持研究，我们引入 GSM8K，一个包含 8.5K 道高质量、语言多样的小学数学应用题的数据集。我们发现，尽管该问题分布概念简单，即便最大的 transformer 模型也未能取得高测试性能。为提升性能，我们提出训练验证器来判断模型补全的正确性。在测试时，我们生成许多候选解，并选取验证器排名最高者。我们证明验证显著提升了 GSM8K 上的性能，并提供有力经验证据表明，相比微调基线，验证随数据量增加扩展得更有效。
引用
@article{arxiv.2110.14168,
title = {Training Verifiers to Solve Math Word Problems},
author = {Karl Cobbe and Vineet Kosaraju and Mohammad Bavarian and Mark Chen and Heewoo Jun and Lukasz Kaiser and Matthias Plappert and Jerry Tworek and Jacob Hilton and Reiichiro Nakano and Christopher Hesse and John Schulman},
journal= {arXiv preprint arXiv:2110.14168},
year = {2021}
}