语言混合对双语LLM推理的影响
计算与语言
2025-10-01 v2 人工智能
机器学习
摘要
熟练的多语言说话者常在对话中中途有意切换语言。类似地，近期具有强大双语推理能力的大语言模型（LLM）在其思考链中表现出语言混合—交替使用不同语言的行为。对DeepSeek-R1抑制这种行为被发现会降低准确率，这表明语言混合可能有助于推理。在本工作中，我们研究了中文-英文双语推理模型中的语言切换。我们确定以可验证奖励的强化学习（RLVR）是导致语言混合的关键训练阶段。我们展示语言混合可提升推理：强制单语解码会使MATH500上的准确率下降5.6个百分点。此外，一个轻量级探针可被训练来预测潜在的语言切换是有益还是有害的，并用于指导解码时，可将准确率提高2.92个百分点。我们的发现表明，语言混合不仅是多语言训练的副产品，更是一种战略性的推理行为。
引用
@article{arxiv.2507.15849,
title = {The Impact of Language Mixing on Bilingual LLM Reasoning},
author = {Yihao Li and Jiayi Xin and Miranda Muqing Miao and Qi Long and Lyle Ungar},
journal= {arXiv preprint arXiv:2507.15849},
year = {2025}
}
备注
Accepted at EMNLP 2025 (Main Conference)