高风险政策场景下实际问题中偏差削减方法的实证比较

近年来，机器学习（ML）在高风险政策场景中的应用——如教育、刑事司法、医疗保健和社会服务供给——迅速增长，引发了关于如何确保这些系统产生公平结果的重要讨论。机器学习研究界以大量提出的公平性增强策略回应了这一挑战，但尽管已开发的方法众多，评估这些方法在真实世界环境中的实证工作却很少。在此，我们试图通过研究在机器学习流水线不同节点运行的若干方法在四个真实世界公共政策与社会公益问题上的表现，来填补这一研究空白。在这些问题中，我们发现许多方法改善模型公平性的能力存在广泛的变异与不一致，但通过选择群体特定分数阈值的后处理一致地消除了差异，这对机器学习研究界以及部署机器学习以辅助重大政策决策的从业者均具有重要启示。