中文

更少语言,更少令牌:一种高效统一逻辑跨语言思维链推理框架

计算与语言 2026-04-23 v1

摘要

具有自一致性的跨语言思维链(XCoT)显著增强了多语言推理能力,但现有方法由于跨语言对完整轨迹进行大量采样而成本高昂。此外,多语言LLM表示因语言而异,阻碍了直接的特征比较和有效的剪枝。受此启发,我们引入了UL-XCoT,这是首个高效的统一逻辑跨语言推理框架,它最小化了令牌使用和延迟方面的冗余,在推理期间有限的采样预算下实现了最高效率。具体而言,UL-XCoT(1)通过在语言不变的统一逻辑空间中为每个查询选择一个小型候选语言集来实现更少的语言,(2)通过在解码过程中监控逻辑空间轨迹动态以剪枝低质量推理路径来实现更少的令牌,以及(3)通过投票聚合剩余的高质量轨迹。在使用DeepSeek-R1-DistillQwen-7B模型,在涵盖18种语言的PolyMath和涵盖29种语言的MMLU-ProX-Lite上的实验表明,UL-XCoT在实现有竞争力的准确率的同时,与先前的采样基线相比,大幅削减了超过50%的解码令牌成本。UL-XCoT还在低资源语言上提供了更稳定的增益,突显了在标准XCoT自一致性方法失效的情况下,其始终优越的鲁棒性。

关键词

引用

@article{arxiv.2604.20090,
  title  = {Less Languages, Less Tokens: An Efficient Unified Logic Cross-lingual Chain-of-Thought Reasoning Framework},
  author = {Chenyuan Zhang and Qiguang Chen and Xie Chen and Zhuotao Tian and Bowen Xing and Meishan Zhang and Libo Qin and Baotian Hu and Min Zhang},
  journal= {arXiv preprint arXiv:2604.20090},
  year   = {2026}
}

备注

Accepted by ACL2026 Main