中文

通过思维树实现跨语言多步推理赋能

计算与语言 2024-06-24 v4 人工智能

摘要

推理方法以著名的思维链(Chain-of-Thought, CoT)为代表,通过引导大语言模型(Large Language Models, LLMs)以逐步方式解决复杂任务,从而增强其推理能力。尽管取得了显著成功,但由于预训练数据分布的不平衡,提供多步推理的能力仍局限于英语,这使得其他语言成为障碍。在本文中,我们提出跨语言思维树(Cross-lingual Tree-of-Thoughts, Cross-ToT),一种用于对齐跨语言 CoT 推理的方法。所提出的方法通过受思维树方法启发的自洽跨语言提示机制,在不同语言中提供多步推理路径,这些路径在每一步中导向最终解。实验评估表明,我们的方法通过减少交互次数并达到最先进性能,显著优于现有的提示方法。

关键词

引用

@article{arxiv.2311.08097,
  title  = {Empowering Multi-step Reasoning across Languages via Tree-of-Thoughts},
  author = {Leonardo Ranaldi and Giulia Pucci and Federico Ranaldi and Elena Sofia Ruzzetti and Fabio Massimo Zanzotto},
  journal= {arXiv preprint arXiv:2311.08097},
  year   = {2024}
}

备注

Findings of the Association for Computational Linguistics: NAACL 2024