端到端偏差缓解：消除深度学习中的性别偏见

机器学习模型已部署于社会的诸多方面，常出现在影响社会福利的情境中。尽管这些模型为大型问题提供了精简的解决方案，它们可能包含偏见，并基于性别等受保护属性对群体或个人进行不公平对待。本文中，我们先介绍若干实践中机器学习性别偏见的实例，随后给出公平性的形式化定义。我们通过详述有影响力的预处理、处理中与后处理偏差缓解算法，提供了公平性研究的综述。接着，我们提出一个端到端偏差缓解框架，其融合预、中与后处理方法以发挥各项技术之长。我们在深度神经网络上测试该方法及所综述的标准技术，以分析深度学习设置下的偏差缓解。我们发现，相较于若干公平性指标，我们的端到端偏差缓解框架优于基线，显示出其作为改善公平性方法的前景。随着 society 日益依赖人工智能辅助决策，解决深度学习模型中存在的性别偏见势在必行。为赋予读者评估机器学习模型公平性并缓解其中偏见的能力，我们讨论了多个用于AI公平性的开源工具包。