一种保护人口统计隐私数据的分布式公平机器学习框架

公平机器学习已成为具有广泛社会影响的重要研究课题。然而，大多数公平学习方法需要直接访问个人人口统计数据，而出于保护用户隐私（例如通过欧盟通用数据保护条例）的考虑，此类数据的使用日益受限。在本文中，我们提出一种用于保护人口统计数据隐私的分布式公平学习框架。我们假定该数据由第三方私密持有，该第三方可与数据中心（负责模型开发）通信而不泄露人口统计信息。我们提出一种在该框架下设计公平学习方法的原则性途径，举例了四种方法，并表明它们在三个真实世界数据集上的公平性与准确性均一致优于现有对应方法。我们从理论上分析了该框架，并证明它能够学习具有高公平性 or 高准确性的模型，其权衡由阈值变量平衡。