自然语言处理中性别偏见的综述
计算与语言
2021-12-30 v1 计算机与社会
摘要
语言可用作复制和强化有害刻板印象与偏见的一种手段，并已在大量研究中被如此分析。在本文中，我们呈现一篇关于自然语言处理中性别偏见的 304 篇论文的综述。我们分析了社会科学中性别及其类别的定义，并将其与 NLP 研究中性别偏见的正式定义相联系。我们调研了应用于性别偏见研究的词典与数据集，进而比较和对照检测与缓解性别偏见的方法。我们发现性别偏见研究存在四个核心局限。1) 多数研究将性别视为二元变量，忽视了其流动性和连续性。2) 大多数工作是在英语或其他高资源语言的单语设定下进行的。3) 尽管有大量关于 NLP 方法中性别偏见的论文，我们发现大多数新开发的算法并未对其模型进行偏见测试，且忽视了其工作可能的伦理考量。4) 最后，该研究方向所开发的方法存在根本缺陷，涵盖非常有限的性别偏见定义，且缺乏评估基线与流程。我们提出克服这些局限的建议，以作为未来研究的指导。
引用
@article{arxiv.2112.14168,
title = {A Survey on Gender Bias in Natural Language Processing},
author = {Karolina Stanczak and Isabelle Augenstein},
journal= {arXiv preprint arXiv:2112.14168},
year = {2021}
}