WordBias：用于发现词嵌入中交叉性偏见的互动可视化工具
计算与语言
2021-09-08 v2 人工智能
人机交互
摘要
交叉性偏见是由性别、性取向、种族、残疾、宗教等多种社会因素重叠引起的偏见。最近的一项研究表明，词嵌入模型可能带有对非洲裔美国女性等交叉群体的偏见。解决此类交叉性偏见的第一步是识别它们。然而，发现针对不同交叉群体的偏见仍是一项具有挑战性的任务。在这项工作中，我们提出WordBias，一个旨在探索静态词嵌入中编码的针对交叉群体偏见的交互式可视化工具。给定一个预训练的静态词嵌入，WordBias根据种族、年龄等计算每条词在不同群体上的关联，并使用一种新颖的交互界面将其可视化。通过一个案例研究，我们展示了WordBias如何帮助揭示词嵌入中编码的针对黑人穆斯林男性、贫困女性等交叉群体的偏见。此外，我们还通过专家访谈的定性反馈对工具进行了评估。该工具的源代码可在github.com/bhavyaghai/WordBias公开获取以保证可复现性。
引用
@article{arxiv.2103.03598,
title = {WordBias: An Interactive Visual Tool for Discovering Intersectional Biases Encoded in Word Embeddings},
author = {Bhavya Ghai and Md Naimul Hoque and Klaus Mueller},
journal= {arXiv preprint arXiv:2103.03598},
year = {2021}
}
备注
Accepted to ACM SIGCHI 2021 LBW