中文

SoT:结构化思维引导大语言模型在多语言推理中的表现

高能物理 - 唯象学 2025-10-06 v1 高能物理 - 理论

摘要

近期发展使大语言模型(LLM)能够通过深度思考完成复杂推理任务,但推理能力尚未成功迁移至资源匮乏的非高资源语言,导致其在多语言推理任务中受限。为此,我们提出一种名为 Structured-of-Thought(SoT)的训练自由方法,通过多步骤转换提升多语言推理性能:语言思维转换与结构化知识转换。SoT 方法将语言特定的语义信息转换为语言无关的结构化表示,使模型能够更精细地理解不同语言中的查询。此外,SoT 有效引导 LLM 聚焦于推理,维持跨语言表达变异时的一致推理路径。实验结果表明,在适应多种 LLM 架构后,SoT 在多个多语言推理基准上超越多个强大基线,还能与其他训练自由策略集成以获得进一步提升。我们的代码已公开于 https://github.com/Cherry-qwq/SoT。

关键词

引用

@article{arxiv.2510.02647,
  title  = {Dispersion Relations and Pole-Skipping in a Holographic Charmonium Model with Rotating Plasma},
  author = {Luiz F. Ferreira},
  journal= {arXiv preprint arXiv:2510.02647},
  year   = {2025}
}

备注

38 pages, 13 figures