基于标注数据思维链自动提示增强与选择
计算与语言
2024-02-28 v3
摘要
思维链(Chain-of-Thought, CoT)提升了大语言模型(LLMs)的推理能力,并在复杂推理任务中取得了优越性能。然而,大多数CoT研究依赖于精心设计的由人工标注的推理链来提示LLMs,这在有标注数据但无推理链的真实应用场景中带来了挑战。本文提出了一种新策略Automate-CoT(基于思维链的自动提示增强与选择),它可以通过从小规模标注数据集中自动增强推理链,然后剪枝低质量链以基于标签构建机器生成推理链的候选池,从而绕过CoT的人工工程化。最后,它采用方差缩减策略梯度方法来估计每个示例的重要性,从池中选取若干推理链的最优组合用于CoT提示。Automate-CoT使得CoT技术能够快速适配不同任务。实验结果证明了我们方法的有效性,在算术推理(+2.7%)、常识推理(+3.4%)、符号推理(+3.2%)和非推理任务(+2.5%)上均取得了有竞争力的结果。代码已发布于https://github.com/SHUMKASHUN/Automate-CoT。
引用
@article{arxiv.2302.12822,
title = {Automatic Prompt Augmentation and Selection with Chain-of-Thought from Labeled Data},
author = {KaShun Shum and Shizhe Diao and Tong Zhang},
journal= {arXiv preprint arXiv:2302.12822},
year = {2024}
}
备注
EMNLP 2023