推荐还是歧视？：信息检索系统中分布奇偶性的量化
机器学习
2019-09-17 v1 信息检索
机器学习
摘要
信息检索（IR）系统常利用查询数据向用户推荐相关条目。如果查询（即输入）及由此产生的推荐无意中与作为受保护变量的潜在因素（例如种族、性别和年龄）相关，这就引入了不公平的可能性。例如，用于时尚推荐的视觉搜索系统可能在生成推荐时关注人体模特的属性而非服装。在这项工作中，我们针对前 K 个 IR 结果中的“分布奇偶性”引入一种统计检验，其评估给定的一组推荐相对于特定受保护变量是否公平。我们使用模拟与实证结果评估我们的检验。首先，利用人工偏置的推荐，我们展示了统计可检测偏置与搜索目录规模之间的权衡。其次，我们将检验应用于服装的视觉搜索系统，具体测试基于时装模特肤色的推荐偏置。我们的分布奇偶性检验可帮助确保 IR 系统的结果公平，并为所有用户带来良好体验。
引用
@article{arxiv.1909.06429,
title = {Recommendation or Discrimination?: Quantifying Distribution Parity in Information Retrieval Systems},
author = {Rinat Khaziev and Bryce Casavant and Pearce Washabaugh and Amy A. Winecoff and Matthew Graham},
journal= {arXiv preprint arXiv:1909.06429},
year = {2019}
}