语言表示投影：我们能否在多语言语言模型中跨语言迁移事实性知识？

多语言预训练语言模型充当多语言事实性知识的存储库。然而，高资源语言与低资源语言之间在事实性知识探测上存在显著的性能差距，表明多语言预训练语言模型中跨语言的事实性知识隐式迁移有限。本文研究从英语向非英语语言显式迁移相对丰富的事实性知识的可行性。为此，我们提出两个无参数的 $\textbf{L}$anguage $\textbf{R}$epresentation $\textbf{P}$rojection 模块（LRP2）。第一个模块将非英语表示转换为类英语等价表示，第二个模块将类英语表示还原为相应非英语语言的表示。mLAMA 数据集上的实验结果表明，LRP2 显著提升了事实性知识检索准确率，并促进了跨多种非英语语言的知识可迁移性。我们进一步从表示空间与跨语言知识神经元的角度探究了 LRP2 的工作机制。