合成提示：为大语言模型生成思维链演示
计算与语言
2023-02-02 v1
摘要
大语言模型可以通过使用思维链提示来执行各种推理任务，思维链提示通过逐步演示引导它们找到答案。然而，提示的质量取决于提供给模型的演示，而手工创建大量演示代价高昂。我们提出合成提示（Synthetic prompting），一种利用少量手工示例来提示模型自行生成更多示例，并选择有效演示以引出更好推理的方法。我们的方法在反向与正向过程之间交替以生成新示例。反向过程生成与采样的推理链相匹配的问题，使问题可解且清晰。正向过程为该问题生成更详细的推理链，提升示例质量。我们在数值、符号和算法推理任务上评估了我们的方法，并显示它优于现有的提示技术。
引用
@article{arxiv.2302.00618,
title = {Synthetic Prompting: Generating Chain-of-Thought Demonstrations for Large Language Models},
author = {Zhihong Shao and Yeyun Gong and Yelong Shen and Minlie Huang and Nan Duan and Weizhu Chen},
journal= {arXiv preprint arXiv:2302.00618},
year = {2023}
}
备注
Preprint