跨多种语言的偏见比较及多语言训练的影响
计算与语言
2023-05-22 v1
摘要
自然语言处理中偏见与公平性的研究主要考察单一语言内和/或少数属性（如性别、种族）下的社会偏见。然而，对于个体属性，偏见在不同语言中表现可能不同。因此，审视每种语言及属性内的偏见至关重要。同样重要的是研究这些偏见跨语言的比较，以及当以多语言数据而非单语数据训练模型时偏见所受的影响。我们针对意大利语、汉语、英语、希伯来语和西班牙语在下游情感分析任务上展开偏见分析，以观察特定人口群体是否被更正面看待。我们研究了这些语言间偏见的异同，并考察多语言与单语训练数据的影响。我们将英语中已有的情感偏见模板适配至意大利语、汉语、希伯来语和西班牙语，涵盖种族、宗教、国籍和性别四个属性。我们的结果揭示了偏见表达上的相似性，例如对每种语言文化中占主导地位的群体（如多数宗教与国籍）的偏爱。此外，我们发现与多语言预训练相比，多语言微调后跨受保护群体的预测差异增大，表明存在偏见放大。
引用
@article{arxiv.2305.11242,
title = {Comparing Biases and the Impact of Multilingual Training across Multiple Languages},
author = {Sharon Levy and Neha Anna John and Ling Liu and Yogarshi Vyas and Jie Ma and Yoshinari Fujinuma and Miguel Ballesteros and Vittorio Castelli and Dan Roth},
journal= {arXiv preprint arXiv:2305.11242},
year = {2023}
}