中文

SoT:结构化思维引导大语言模型在多语言推理中的表现

计算与语言 2025-10-06 v1

摘要

近期发展使大语言模型(LLM)能够通过深度思考完成复杂推理任务,但推理能力尚未成功迁移至资源匮乏的非高资源语言,导致其在多语言推理任务中受限。为此,我们提出一种名为 Structured-of-Thought(SoT)的训练自由方法,通过多步骤转换提升多语言推理性能:语言思维转换与结构化知识转换。SoT 方法将语言特定的语义信息转换为语言无关的结构化表示,使模型能够更精细地理解不同语言中的查询。此外,SoT 有效引导 LLM 聚焦于推理,维持跨语言表达变异时的一致推理路径。实验结果表明,在适应多种 LLM 架构后,SoT 在多个多语言推理基准上超越多个强大基线,还能与其他训练自由策略集成以获得进一步提升。我们的代码已公开于 https://github.com/Cherry-qwq/SoT。

关键词

引用

@article{arxiv.2510.02648,
  title  = {SoT: Structured-of-Thought Prompting Guides Multilingual Reasoning in Large Language Models},
  author = {Rui Qi and Zhibo Man and Yufeng Chen and Fengran Mo and Jinan Xu and Kaiyu Huang},
  journal= {arXiv preprint arXiv:2510.02648},
  year   = {2025}
}

备注

EMNLP 2025 (findings)