揭示上下文刻板印象：测量并缓解 BERT 的性别偏见
计算与语言
2020-10-29 v1
摘要
上下文词嵌入已经取代标准嵌入，成为 NLP 系统中代表性的知识来源首选。由于此前在标准词嵌入中发现了多种偏见，评估其替代模型中编码的偏见也至关重要。聚焦于 BERT (Devlin et al., 2018)，我们通过研究英语和德语中表性别目标词与职业名称之间的关联来测量性别偏见，并将发现与现实世界劳动力统计进行比较。我们通过在 GAP 语料库 (Webster et al., 2018) 上对 BERT 进行微调来缓解偏见，此前应用了反事实数据替换 (CDS) (Maudslay et al., 2019)。我们表明，我们的偏见测量方法适用于英语等语言，但不适用于德语等具有丰富形态和性别标记的语言。我们的结果凸显了跨语言调查偏见和缓解技术的重要性，尤其是考虑到当前对大规模多语言语言模型的重视。
引用
@article{arxiv.2010.14534,
title = {Unmasking Contextual Stereotypes: Measuring and Mitigating BERT's Gender Bias},
author = {Marion Bartl and Malvina Nissim and Albert Gatt},
journal= {arXiv preprint arXiv:2010.14534},
year = {2020}
}
备注
10 pages, 4 figures, to appear in Proceedings of the 2nd Workshop on Gender Bias in Natural Language Processing at COLING 2020