嵌入相似度能否预测跨语言迁移？——非洲语言上的系统性研究
计算与语言
2026-01-07 v1 机器学习
摘要
跨语言迁移是构建低资源非洲语言 NLP 系统的必需环节，但实践者缺乏可靠的源语言选择方法。我们系统评估了五种嵌入相似度指标，在 816 项跨语言迁移实验中进行测试，涵盖三个 NLP 任务、三个非洲中心多语言模型和 12 种来自四大语言族的语言。我们发现，余弦间隔和检索式指标（P@1、CSLS）可靠地预测跨语言迁移成功（ρ=0.4-0.6），而 CKA 显示出微弱的预测能力（ρ≈0.1）。关键的是，在跨模型池化时，相关符号会反转（Simpson悖论），因此实践者必须针对每个模型进行验证。嵌入指标的预测能力相当于 URIEL 语言类型学。我们的结果为源语言选择提供了具体指导，并突显了模型特定分析的重要性。
引用
@article{arxiv.2601.03168,
title = {Can Embedding Similarity Predict Cross-Lingual Transfer? A Systematic Study on African Languages},
author = {Tewodros Kederalah Idris and Prasenjit Mitra and Roald Eiselen},
journal= {arXiv preprint arXiv:2601.03168},
year = {2026}
}
备注
13 pages, 1 figure, 19 tables