性别中立查询真的性别中立吗？缓解图像搜索中的性别偏见
计算机视觉与模式识别
2021-09-14 v1 计算与语言
摘要
互联网搜索影响人们对世界的认知，因此缓解搜索结果中的偏见并学习公平模型对社会公益至关重要。本工作中我们研究图像搜索中一种独特的性别偏见：对于性别中立的自然语言查询，搜索图像常呈现性别失衡。我们诊断了两种典型图像搜索模型：在域内数据集上训练的专业模型，以及跨互联网海量图像与文本数据预训练的通用表示模型。两种模型均存在严重性别偏见。因此，我们引入两种新颖去偏方法：一种用于处理阶段解决训练模型性别失衡问题的公平采样方法，以及一种基于互信息的后处理特征裁剪方法以去偏预训练模型的多模态表示。在 MS-COCO 与 Flickr30K 基准上的大量实验表明，我们的方法显著降低了图像搜索模型中的性别偏见。
引用
@article{arxiv.2109.05433,
title = {Are Gender-Neutral Queries Really Gender-Neutral? Mitigating Gender Bias in Image Search},
author = {Jialu Wang and Yang Liu and Xin Eric Wang},
journal= {arXiv preprint arXiv:2109.05433},
year = {2021}
}
备注
14 pages, EMNLP 2021