通过多敏感去偏流水线 DualFair 开发新型公平贷款预测器

机器学习（ML）模型正日益被用于可能对人们生活产生重大影响的高风险应用。尽管已被使用，这些模型仍有可能基于种族、性别或民族对某些社会群体产生偏见。许多先前的研究试图通过更新训练数据（预处理）、改变模型学习过程（处理中）或操纵模型输出（后处理）来缓解这种“模型歧视”。然而，这些工作尚未扩展到多敏感参数与敏感选项（MSPSO）领域，其中敏感参数是可能被歧视的属性（例如种族），敏感选项是敏感参数中的选项（例如黑人或白人），因而其现实可用性有限。先前的公平性研究还存在准确性—公平性权衡问题，使得准确性与公平性无法同时处于高位。此外，已有文献未能提供适用于 MSPSO 的整体公平性度量。在本文中，我们通过（a）创建一种称为 DualFair 的新型偏见缓解技术，以及（b）开发一种可处理 MSPSO 的新公平性度量（即 AWI），解决了上述三个问题。最后，我们使用一个全面的美国抵押贷款数据集测试我们的新型缓解方法，并表明我们的分类器（即公平贷款预测器）比当前最先进的模型获得了更好的公平性与准确性度量。