在筛选问题中改善公平性与隐私

监督学习模型已越来越多地用于招聘、借贷和大学录取等应用中对个体做出决策。这些模型可能从训练数据集中继承既有的偏见，并对受保护属性（例如种族或性别）产生歧视。除不公平外，当模型的使用泄露敏感个人信息时，也会引发隐私担忧。在各种隐私概念中，差分隐私近年来已变得流行。在这项工作中，我们研究使用差分隐私指数机制作为后处理步骤，以改善监督学习模型的公平性与隐私的可能性。与许多现有工作不同，我们考虑这样一种场景：由于可用名额有限，监督模型被用于筛选有限数量的申请者。该假设非常契合各种场景，例如工作申请和大学录取。我们使用“机会均等”作为公平概念，并表明指数机制可使决策过程完全公平。此外，在真实世界数据集上的实验表明，指数机制可同时改善隐私与公平性，与未经后处理的模型相比准确率略有下降。