Goat：微调LLaMA在算术任务上超越GPT-4
机器学习
2023-05-24 v1 人工智能
计算与语言
摘要
我们提出Goat，一种微调的LLaMA模型，在一系列算术任务上显著优于GPT-4。在合成生成的数据集上微调后，Goat在BIG-bench算术子任务上达到最先进性能。特别地，零样本Goat-7B匹配甚至超越少样本PaLM-540B所达到的准确率。令人惊讶的是，Goat仅通过监督微调即可在大数加法和减法上实现近乎完美的准确率，这对先前的预训练语言模型（如Bloom、OPT、GPT-NeoX等）几乎不可能。我们将Goat的卓越性能归因于LLaMA对数字的一致分词。为应对更具挑战性的任务如大数乘法和除法，我们提出一种基于可学习性对任务分类的方法，随后利用基本算术原理将不可学习任务（如多位数乘法和除法）分解为一系列可学习任务。我们彻底检验了模型的性能，对所提分解步骤的有效性进行了全面评估。此外，Goat-7B可使用LoRA在24GB显存GPU上轻松训练，便于其他研究者复现。我们发布了模型、数据集及用于数据集生成的Python脚本。
引用
@article{arxiv.2305.14201,
title = {Goat: Fine-tuned LLaMA Outperforms GPT-4 on Arithmetic Tasks},
author = {Tiedong Liu and Bryan Kian Hsiang Low},
journal= {arXiv preprint arXiv:2305.14201},
year = {2023}
}