Transformer模型中的性别偏见：一项全面综述
计算与语言
2023-06-21 v1 人工智能
摘要
人工智能(AI)中的性别偏见已成为一个紧迫关切，对个体生活具有深远影响。本文从语言学视角出发，对Transformer模型中的性别偏见进行了全面综述。尽管先前研究已承认语言模型中存在性别偏见，但对于如何有效测量与评估该偏见仍缺乏共识。我们的综述批判性考察了关于Transformers中性别偏见的现有文献，阐明了用于评估偏见的多样化方法与指标。我们指出了当前Transformers性别偏见测量方法中的若干局限，包括使用不完整或有缺陷的指标、数据集规模不足以及评估方法缺乏标准化。此外，我们的综述探讨了Transformers中性别偏见对下游应用（包括对话系统与机器翻译）的潜在影响。我们通过强调在开发和部署语言技术中提高意识与问责的必要性，凸显了在这些系统中促进公平与公正的重要性。本文作为Transformer模型中性别偏见的全面概览，提供了新颖见解并为这一关键领域的未来研究指明了有价值的方向。
引用
@article{arxiv.2306.10530,
title = {Gender Bias in Transformer Models: A comprehensive survey},
author = {Praneeth Nemani and Yericherla Deepak Joel and Palla Vijay and Farhana Ferdousi Liza},
journal= {arXiv preprint arXiv:2306.10530},
year = {2023}
}