中文

跨语言提示:提升跨语言零样本思维链推理

计算与语言 2023-10-24 v1 人工智能

摘要

思维链(CoT)能够引导模型显式生成推理路径,从而提升推理准确率并受到越来越多的关注。具体而言,零样本 CoT 通过简单地用提示“Let's think step by step!”指示 LLM,在广泛推理任务中取得了显著改进。尽管零样本 CoT 取得了成功,现有的零样本提示技术仍局限于单一语言,难以推广到其他语言并阻碍了全球发展。在本工作中,我们提出跨语言提示(CLP),旨在改进跨语言的零样本 CoT 推理。具体而言,CLP 包含两个主要组件:(1)跨语言对齐提示和(2)任务特定求解器提示。跨语言对齐提示负责对齐不同语言间的表示,而任务特定求解器提示用于生成推理任务最终的思维链与结果。此外,我们进一步引入跨语言自一致提示(CLSP)以集成跨语言的不同推理路径。我们在多个基准上的实验评估表明,CLP 和 CLSP 显著优于现有提示方法并达到了最先进的性能。我们希望本工作能激发跨语言 CoT 领域的进一步突破。

关键词

引用

@article{arxiv.2310.14799,
  title  = {Cross-lingual Prompting: Improving Zero-shot Chain-of-Thought Reasoning across Languages},
  author = {Libo Qin and Qiguang Chen and Fuxuan Wei and Shijue Huang and Wanxiang Che},
  journal= {arXiv preprint arXiv:2310.14799},
  year   = {2023}
}

备注

Accepted at EMNLP2023 Main Conference