大语言模型在多语言环境下的性别偏见
计算与语言
2024-03-04 v1
摘要
随着大语言模型 (LLMs) 在各种应用中的部署日益增多，评估嵌入在 LLMs 中的性别偏见的影响变得至关重要。自然语言处理 (NLP) 领域的性别偏见话题已受到相当多的关注，特别是在英语语境下。然而，对于英语以外语言中的性别偏见研究仍然相对探索不足且分析不够充分。在这项工作中，我们考察了 LLMs 生成的输出在不同语言中的性别偏见。我们使用了三种测量方法：1) 给定性别相关上下文时选择描述性词汇中的性别偏见；2) 给定描述性词汇时选择性别相关代词 (she/he) 中的性别偏见；3) LLMs 生成对话主题中的性别偏见。我们利用这三种测量方法调查了 GPT 系列 LLMs 在各种语言中的输出。我们的研究结果显示，在我们考察的所有语言中均存在显著的性别偏见。
引用
@article{arxiv.2403.00277,
title = {Gender Bias in Large Language Models across Multiple Languages},
author = {Jinman Zhao and Yitian Ding and Chen Jia and Yining Wang and Zifan Qian},
journal= {arXiv preprint arXiv:2403.00277},
year = {2024}
}
备注
20 pages, 27 tables, 7 figures, submitted to ACL2024