当公平遇见隐私：具有半私有敏感属性的公平分类

机器学习模型在许多领域展现出良好性能。然而，它们可能对特定人口群体存在偏置的担忧阻碍了其在大风险应用中的采用。因此，确保机器学习模型的公平性至关重要。以往多数工作需直接访问敏感属性以缓解偏置。然而，考虑到数据收集过程中用户对隐私的担忧，通常难以获取大规模用户的敏感属性。由于法律合规与人们日益增长的隐私意识，诸如本地差分隐私（LDP）等隐私机制在数据收集阶段被广泛施加于敏感信息。因此，一个关键问题是如何在隐私下做出公平预测。我们研究一种新颖且实用的半私有设定下的公平分类问题，其中大多数敏感属性为私有的，仅少量干净敏感属性可用。为此，我们提出一种新颖框架 FairSP，可在半私有设定下实现公平预测。首先，FairSP 利用有限的干净敏感属性学习修正受噪声保护的敏感属性。然后，它以对抗方式联合建模修正后数据与干净数据，以去偏与预测。理论分析表明，所提模型在半私有设定下于温和假设下可确保公平性。在真实数据集上的大量实验结果证明了我们的方法在隐私下做出公平预测并保持高准确率的有效性。