分析语言特征对跨语言迁移的影响

越来越多的证据表明，在目标语言数据很少或没有数据的情况下，在另一种语言上训练可以产生令人惊讶的良好结果。然而，目前还没有确立的用于选择训练（源）语言的指导原则。为解决此问题，我们深入分析了最先进的多语言模型，并试图确定是什么影响了语言间良好的迁移。与大多数多语言 NLP 文献不同，我们不仅在英语上训练，而是在近 30 种语言的一组语言上训练。我们表明，查看特定句法特征比聚合的句法相似度在预测性能方面有帮助 2-4 倍。我们发现句法特征的重要性强烈依赖于下游任务——没有单一特征是所有 NLP 任务的良好性能预测器。因此，不应期望对于目标语言 $L_1$ 存在单一语言 $L_2$ 是任何 NLP 任务的最佳选择（例如，对于保加利亚语，最佳源语言在词性标注上是法语，在命名实体识别上是俄语，在自然语言推理上是泰语）。我们使用统计和机器学习方法讨论了影响迁移质量的最重要的语言特征。