跨语言迁移会加剧情感分析中的偏见
计算与语言
2023-05-23 v1
摘要
情感分析（SA）系统被广泛部署于世界上许多语言中，且已有充分文献证明这些系统中存在人口统计偏见。在英语以外的语言中，稀缺的训练数据常借助使用预训练模型（包括在其他语言上训练的多语言模型）的迁移学习来补充。某些情况下，甚至连监督数据也来自其他语言。跨语言迁移是否也会引入新的偏见？为回答该问题，我们使用反事实评估来检验：与单语迁移设定相比，使用跨语言迁移时是否会引入性别或种族偏见。在五种语言中，我们发现使用跨语言迁移的系统通常比其单语对应系统偏见更强。我们还发现种族偏见远比性别偏见普遍。为激励该主题的进一步研究，我们发布了本研究使用的情感模型以及训练过程中的中间检查点，共计1,525个独立模型；我们也发布了评估代码。
引用
@article{arxiv.2305.12709,
title = {Cross-lingual Transfer Can Worsen Bias in Sentiment Analysis},
author = {Seraphina Goldfarb-Tarrant and Björn Ross and Adam Lopez},
journal= {arXiv preprint arXiv:2305.12709},
year = {2023}
}
备注
8 pages, preprint