思维链提示引发大语言模型的推理能力
计算与语言
2023-01-12 v6 人工智能
摘要
我们探究生成思维链——一系列中间推理步骤——如何显著提升大语言模型执行复杂推理的能力。具体而言,我们展示此类推理能力如何通过一种称为思维链提示(chain of thought prompting)的简单方法在足够大的语言模型中自然涌现,该方法在提示中提供少量思维链示例作为 exemplar。在三个大语言模型上的实验表明,思维链提示在一系列算术、常识与符号推理任务上提升了性能。经验增益可能十分显著。例如,仅以八个思维链 exemplar 提示一个 540B 参数的语言模型,即在 GSM8K 数学应用题基准上取得最先进(state of the art)准确率,甚至超越经微调带验证器的 GPT-3。
引用
@article{arxiv.2201.11903,
title = {Chain-of-Thought Prompting Elicits Reasoning in Large Language Models},
author = {Jason Wei and Xuezhi Wang and Dale Schuurmans and Maarten Bosma and Brian Ichter and Fei Xia and Ed Chi and Quoc Le and Denny Zhou},
journal= {arXiv preprint arXiv:2201.11903},
year = {2023}
}