全局学习，局部表达：弥合多语言推理中的鸿沟
计算与语言
2025-09-29 v2 人工智能
机器学习
摘要
大型语言模型（LLM）在数学、事实问答和代码生成等领域取得了优异的性能，但它们用不同语言在这些任务上进行推理的能力仍有待提升。特别是对于斯瓦希里语或泰语等低资源语言，LLM 经常会误解提示或默认用英语进行推理。这种对高资源语言的隐性偏见损害了事实准确性、可解释性和可信度。我们提出了 M2A，一种将多尺度多语言对齐与机器翻译问题上的语言一致性奖励相结合的新方法，训练模型直接且准确地在目标语言中进行推理。此外，现有的多语言基准仅在最终答案上进行评估，忽略了推理是否以预期语言进行。为了填补这一空白，我们引入了 GeoFact-X，一个基于地理学的多语言事实推理基准，包含五种语言的推理轨迹：英语、印地语、日语、斯瓦希里语和泰语。我们的结果表明，M2A 显著增强了数学和事实推理任务中的多语言推理保真度，凸显了推理感知的多语言强化学习对于稳健的跨语言泛化至关重要。https://jd730.github.io/projects/M2A_GeoFact-X
引用
@article{arxiv.2507.05418,
title = {Learn Globally, Speak Locally: Bridging the Gaps in Multilingual Reasoning},
author = {Jaedong Hwang and Kumar Tanmay and Seok-Jin Lee and Ayush Agrawal and Hamid Palangi and Kumar Ayush and Ila Fiete and Paul Pu Liang},
journal= {arXiv preprint arXiv:2507.05418},
year = {2025}
}