FairFed:在联邦学习中实现群体公平
机器学习
2022-11-28 v3 计算机与社会
摘要
由于机器学习在医疗和招聘等关键决策场景中的集成日益加深,训练在不同人口群体间公平的 ML 模型至关重要。联邦学习被视为一种有前景的方案,可在保护各方本地数据隐私的同时协同训练机器学习模型。然而,联邦学习在缓解对某些群体(如人口统计群体)的潜在偏见方面也带来了新挑战,因为这通常需要集中访问每个数据点的敏感信息(如种族、性别)。受联邦学习中群体公平的重要性和挑战驱动,本工作提出 FairFed,一种用于公平感知聚合的新算法,以提升联邦学习中的群体公平。我们所提方法位于服务端,且独立于所应用的本地去偏,从而允许跨客户端灵活使用不同的本地去偏方法。我们针对公平 ML 和联邦学习的常见基线对 FairFed 进行实证评估,表明其在客户端间数据高度异构分布时尤其能提供更公平的模型。我们还展示了 FairFed 在涉及自然分布的真实数据(收集自不同地理位置或组织内部门)场景中的益处。
引用
@article{arxiv.2110.00857,
title = {FairFed: Enabling Group Fairness in Federated Learning},
author = {Yahya H. Ezzeldin and Shen Yan and Chaoyang He and Emilio Ferrara and Salman Avestimehr},
journal= {arXiv preprint arXiv:2110.00857},
year = {2022}
}
备注
Accepted to appeat at AAAI 2023