检测网络搜索引擎中人工智能视觉表征的种族与性别偏见
信息检索
2021-06-29 v1
摘要
网络搜索引擎通过过滤与排序信息影响对社会现实的认知。然而，其输出常受偏见影响，可能导致诸如职业或性别等主题的代表性失真。在本文中，我们采用混合方法研究来自六个不同搜索引擎的图像搜索结果中人工智能（AI）表征所存在的种族与性别偏见。我们的发现表明，搜索引擎优先展示将 AI 描绘为白人的拟人化图像，而非白人的 AI 图像仅出现在非西方搜索引擎中。相比之下，AI 的性别表征更为多样，且较少偏向某一特定性别，这可归因于对搜索输出中性别偏见的更高关注度。我们的观察既表明亦揭示了解决诸如技术创新等社会相关主题表征偏见的必要性与可能性，并强调了设计新方法以检测信息检索系统中偏见的重要性。
引用
@article{arxiv.2106.14072,
title = {Detecting race and gender bias in visual representation of AI on web search engines},
author = {Mykola Makhortykh and Aleksandra Urman and Roberto Ulloa},
journal= {arXiv preprint arXiv:2106.14072},
year = {2021}
}
备注
16 pages, 3 figures