PrivFairFL：联邦学习中的隐私保护群体公平性
机器学习
2022-08-30 v2 密码学与安全
摘要
群体公平性确保基于机器学习（ML）的决策系统的输出不会偏向由敏感属性（如性别或种族）定义的某一群体。在联邦学习（FL）中实现群体公平性具有挑战性，因为缓解偏差本质上需要使用所有客户端的敏感属性值，而 FL 的目的恰恰是通过不提供对客户端数据的访问来保护隐私。正如我们在本文中所展示的，FL 中公平性与隐私性的这一冲突可通过将 FL 与安全多方计算（MPC）和差分隐私（DP）相结合来解决。在此过程中，我们提出了一种在跨设备 FL 中训练群体公平 ML 模型的方法，该方法具有完整且形式化的隐私保证，且无需客户端披露其敏感属性值。
引用
@article{arxiv.2205.11584,
title = {PrivFairFL: Privacy-Preserving Group Fairness in Federated Learning},
author = {Sikha Pentyala and Nicola Neophytou and Anderson Nascimento and Martine De Cock and Golnoosh Farnadi},
journal= {arXiv preprint arXiv:2205.11584},
year = {2022}
}