公平性研究中的（不公平）规范：元分析
计算机与社会
2024-07-25 v1 人工智能
摘要
算法公平性已成为人工智能（AI）研究中的关键关注议题。然而，开发公平AI系统的过程并非客观中立。公平性本质上是主观的概念，其内涵受到参与研究与开发者的价值观、经验和身份认同的影响。为更好地理解当前公平性研究中嵌入的规范与价值，我们对来自AI公平性与伦理会议AIES和FAccT的算法公平性论文进行了元分析，覆盖2018年至2022年间共139篇论文。我们的调查发现两个令人关切的趋势：首先，美国中心主义视角在公平性研究中占据主导地位；其次，公平性研究普遍依赖二元化的人类身份编码（例如“黑人/白人”、“男性/女性”）。这些发现表明，当前研究往往忽视身份和生活经验的复杂性，未能在定义算法偏见和公平性时代表来自不同全球语境的多样化视角。我们讨论了这些研究设计选择的局限性，并提出建议，鼓励采取更具包容性和代表性的方法来实现AI系统中的公平性，呼吁转变范式，拥抱对人类身份和价值观更为细致、全球化的理解。
引用
@article{arxiv.2407.16895,
title = {(Unfair) Norms in Fairness Research: A Meta-Analysis},
author = {Jennifer Chien and A. Stevie Bergman and Kevin R. McKee and Nenad Tomasev and Vinodkumar Prabhakaran and Rida Qadri and Nahema Marchal and William Isaac},
journal= {arXiv preprint arXiv:2407.16895},
year = {2024}
}