多语言 BERT 带有口音：评估英语对多语言模型流畅度的影响
计算与语言
2023-04-14 v2
摘要
尽管多语言语言模型可以通过利用高资源语言来提升低资源语言的 NLP 性能，但它们也降低了所有语言上的平均表现（即“多语言诅咒”）。本文揭示了多语言模型的另一个问题：高资源语言中的语法结构渗入低资源语言，我们将这一现象称为语法结构偏置。我们通过一种新颖的方法来展示这种偏置，该方法将多语言模型的流畅度与单语西班牙语和希腊语模型的流畅度进行比较：测试它们对两种精心选择的可变语法结构（西班牙语中可选的代词省略，以及希腊语中可选的主谓语序）的偏好。我们发现，与我们的单语对照语言模型相比，多语言 BERT 偏向于类英语的设置（显式代词与主谓宾语序）。通过这些案例研究，我们希望揭示多语言模型可能产生偏置的细粒度方式，并鼓励更多具有语言意识的流畅度评估。
引用
@article{arxiv.2210.05619,
title = {Multilingual BERT has an accent: Evaluating English influences on fluency in multilingual models},
author = {Isabel Papadimitriou and Kezia Lopez and Dan Jurafsky},
journal= {arXiv preprint arXiv:2210.05619},
year = {2023}
}
备注
Findings of EACL 2023