算法公平性十五年 —— 跨学科领域的综述性研究

本文呈现了算法公平性研究过去十五年的综述性研究，采用来自Web of Science、HEIN Online、FAccT和AIES会议论文集构建的数据集。所有文章均来自计算机科学和法学领域，聚焦于可能对特定人口群体产生歧视性影响的AI算法。每篇文章根据讨论的技术、人口统计焦点、应用领域和地理背景进行注释。我们的分析显示，针对特定领域、方法和人口统计的讨论呈现出日益具体的趋势，尽管相当大一部分贡献仍保持通用。专门讨论往往集中于基于性别或种族的歧视，尤其在分类任务中。就研究的地理背景而言，关注者几乎全部来自北美和欧洲(全球北方国家)，其他地区的代表性很有限。这引发了关于忽视其他类型AI应用、对不同类型人口群体的不利影响，以及为解决这些问题所必需的文化考虑的担忧。通过一些突出的作品，我们主张必须讨论更广泛的话题，为领域特定、技术特定、不同地理和人口统计特定的方法提供必要性。本文还探讨了算法公平性研究在法学和计算机科学中的跨学科性质，以洞察研究者如何独立或合作地处理这一主题。通过这种分析，我们可以更好地理解每个学科能够带来的独特贡献。