通过思维树实现跨语言多步推理赋能
计算与语言
2024-06-24 v4 人工智能
摘要
推理方法以著名的思维链(Chain-of-Thought, CoT)为代表,通过引导大语言模型(Large Language Models, LLMs)以逐步方式解决复杂任务,从而增强其推理能力。尽管取得了显著成功,但由于预训练数据分布的不平衡,提供多步推理的能力仍局限于英语,这使得其他语言成为障碍。在本文中,我们提出跨语言思维树(Cross-lingual Tree-of-Thoughts, Cross-ToT),一种用于对齐跨语言 CoT 推理的方法。所提出的方法通过受思维树方法启发的自洽跨语言提示机制,在不同语言中提供多步推理路径,这些路径在每一步中导向最终解。实验评估表明,我们的方法通过减少交互次数并达到最先进性能,显著优于现有的提示方法。
引用
@article{arxiv.2311.08097,
title = {Empowering Multi-step Reasoning across Languages via Tree-of-Thoughts},
author = {Leonardo Ranaldi and Giulia Pucci and Federico Ranaldi and Elena Sofia Ruzzetti and Fabio Massimo Zanzotto},
journal= {arXiv preprint arXiv:2311.08097},
year = {2024}
}
备注
Findings of the Association for Computational Linguistics: NAACL 2024