性别刻板印象强化：度量排序算法所传递的性别偏见
计算机与社会
2020-09-04 v1
摘要
搜索引擎（SE）已被证明会延续心理学文献中已知的性别刻板印象，并相应地影响用户。在从大型在线语料学习到的词嵌入（WE）中也发现了类似偏见。在此背景下，我们提出性别刻板印象强化（GSR）度量，其利用WE中编码的性别相关信息来量化SE支持性别刻板印象的倾向。通过构念效度的批判性视角，我们在合成与真实集合上验证了所提度量。随后，我们使用GSR比较广泛使用的情报检索排序算法，包括词法、语义与神经模型。我们检验基于WE的排序算法是否及如何继承底层嵌入的偏见。我们还考虑了文献中最常见的WE去偏方法，并测试其在GSR与常用性能指标方面的影响。据我们所知，GSR是首个专为IR定制的度量，能够量化代表性危害。
引用
@article{arxiv.2009.01334,
title = {Gender Stereotype Reinforcement: Measuring the Gender Bias Conveyed by Ranking Algorithms},
author = {Alessandro Fabris and Alberto Purpura and Gianmaria Silvello and Gian Antonio Susto},
journal= {arXiv preprint arXiv:2009.01334},
year = {2020}
}
备注
To appear in Information Processing & Management