神经排序模型是否加剧了性别偏见？
信息检索
2021-01-20 v3 机器学习
摘要
先前若干研究已提出信息检索（IR）系统中存在社会偏见印记的担忧。在本工作中，我们从检索结果中性别偏见程度的角度考察了多种近期 IR 模型。为此，我们首先提供一个偏见测量框架，包含两种度量以量化给定 IR 模型排序列表中性别相关概念不平衡出现的程度。为借助该框架考察 IR 模型，我们创建了一个由人类标注者筛选的非性别化查询数据集。将这些查询应用于 MS MARCO Passage 检索集合，我们随后测量了 BM25 模型与若干近期神经排序模型的性别偏见。结果表明，尽管所有模型都强烈偏向男性，但神经模型，尤其是基于上下文嵌入模型的那些，显著加剧了性别偏见。我们的实验还显示，当神经模型利用迁移学习（即使用已带偏见的预训练嵌入）时，其性别偏见总体增加。
引用
@article{arxiv.2005.00372,
title = {Do Neural Ranking Models Intensify Gender Bias?},
author = {Navid Rekabsaz and Markus Schedl},
journal= {arXiv preprint arXiv:2005.00372},
year = {2021}
}
备注
In Proceedings of ACM SIGIR 2020