无偏差公平性

随着机器学习 (ML) 算法在社会领域用于对人类作出预测，越来越担忧这些算法可能对某些社会群体表现出偏见。文献中提出了许多公平性概念来衡量 ML 的不公平性。在其中一类得到最多关注的是\textit{基于平衡的}，即通过实现不同社会群体的平等待遇或平等结果来实现公平性。然而，实现基于平衡的公平性往往会降低模型准确率，在许多高风险领域如医疗保健中不受欢迎。为避免低下的准确率，一线研究聚焦于\textit{基于偏好的}公平性，在这种情况下，任何群体的成员在给定各种结果集的选择时都会获得最高的准确率并集体偏好被分配给他们的 ML 结果。然而，这些作品假设在训练期间可获得且完全可访问每个人的民族信息。在本文中，我们放宽了这一要求，提出一种新的\textit{无偏差公平性 (DAFH)}优化算法，该算法联合学习一个分组分类器将总体划分为多个群体，并为这些群体关联一组解耦分类器。理论上，我们进行了样本复杂度分析，表明该方法在已知民族信息且用于训练解耦分类器时可以优于基线方法。实验在合成数据和真实数据上验证了所提出的方法。