作为类比推理者的大语言模型
机器学习
2024-03-12 v3
摘要
语言模型的思维链(CoT)提示在推理任务中展现出令人印象深刻的性能,但通常需要推理过程的标注范例。本工作中,我们引入一种称为类比提示(analogical prompting)的新提示方法,旨在自动引导大语言模型的推理过程。受类比推理(人类从相关过往经验出发应对新问题的认知过程)启发,我们的方法提示语言模型在上下文中自行生成相关范例或知识,然后再着手解决给定问题。该方法具有若干优势:无需标注或检索范例,具备通用性与便利性;还能针对每个问题定制生成的范例与知识,具备适应性。实验结果表明,我们的方法在多种推理任务中优于 0-shot CoT 与人工 few-shot CoT,包括 GSM8K 与 MATH 中的数学解题、Codeforces 中的代码生成,以及 BIG-Bench 中的其他推理任务。
引用
@article{arxiv.2310.01714,
title = {Large Language Models as Analogical Reasoners},
author = {Michihiro Yasunaga and Xinyun Chen and Yujia Li and Panupong Pasupat and Jure Leskovec and Percy Liang and Ed H. Chi and Denny Zhou},
journal= {arXiv preprint arXiv:2310.01714},
year = {2024}
}
备注
Published at ICLR 2024