未被采纳的路径：理解与修复多语言事实召回流水线
计算与语言
2025-05-29 v2
摘要
多语言大语言模型（LLM）在不同语言间常表现出事实不一致，其在英语事实召回任务中的表现显著优于其他语言。然而，这些失败的原因仍不清楚。使用机制分析技术，我们揭示了 LLM 采用的底层流水线，该流水线涉及使用以英语为中心的事实召回机制处理多语言查询，然后将英语答案翻译回目标语言。我们识别了两个主要的错误来源：事实召回时对可靠的以英语为中心机制的参与不足，以及最终答案从英语翻译回目标语言时的错误翻译。为了解决这些脆弱性，我们引入了两种独立于语言和数据集的向量干预方法，以将模型重定向至更好的内部路径，从而获得更高的事实一致性。我们的干预组合将表现最差语言的召回准确率提高了 35% 以上。我们的研究结果表明，机制洞察可用于解锁 LLM 中潜在的多语言能力。
引用
@article{arxiv.2505.20546,
title = {Paths Not Taken: Understanding and Mending the Multilingual Factual Recall Pipeline},
author = {Meng Lu and Ruochen Zhang and Carsten Eickhoff and Ellie Pavlick},
journal= {arXiv preprint arXiv:2505.20546},
year = {2025}
}