分布个体公平性的认证

为机器学习算法提供算法公平性的形式化保证对于社会责任部署至关重要。在本工作中,我们研究神经网络个体公平性(IF)的形式化保证,即可认证性。我们首先引入一种新颖的 IF 约束凸近似,其指数级降低了提供局部个体公平性形式化保证的计算成本。我们强调,先前的方法受限于其对全局 IF 认证的关注,因此只能扩展到具有几十个隐藏神经元的模型,从而限制了其实际影响。我们提出认证分布个体公平性,其确保对于给定的经验分布以及 $\gamma$-Wasserstein 球内的所有分布,神经网络具有保证的个体公平预测。利用拟凸优化的发展,我们提供了关于分布个体公平性的新颖且高效的认证界,并表明我们的方法使我们能够认证和正则化比先前工作所考虑的模型大几个数量级的神经网络。此外,我们研究真实世界的分布偏移,并发现我们的界是可扩展、实用且可靠的 IF 保证来源。