偏见去趋：算法偏差缓解的综合系统性综述

机器学习（ML）模型越来越多地用于人员评估和选择（例如，简历筛选器、自动评分面试）。然而，社会界担忧ML评估可能偏斥并延续或加剧不平等。尽管组织研究者开始从传统心理测量和法律视角考察ML评估，但仍需理解、澄清和集成来自计算机科学、数据科学和组织研究文献中关于公平性操作化和算法偏差缓解方法。我们提出了一个四阶段模型，用于开发ML评估并应用偏差缓解方法，包括1)生成训练数据、2)训练模型、3)测试模型、4)部署模型。在介绍四阶段模型时，我们描述了每个阶段可能的偏差和不公平来源。然后，我们系统性地综述了算法偏差的定义和操作化、来自美国和欧洲的人才选拔法律要求，以及来自多个领域的算法偏差缓解研究，并将这些发现整合到我们的框架中。我们的综述为研究和实践提供了见解，通过阐明算法偏差的可能机制，同时识别哪些偏差缓解方法是合法且有效的。该综合框架还揭示了算法偏差缓解知识中的差距，应由组织研究者、计算机科学家和数据科学家进行未来协作研究来加以解决。我们提供了开发和部署ML评估的建议以及针对算法偏差和公平性的未来研究建议。