联邦学习中隐私、公平与效用之间的权衡探析
机器学习
2023-12-01 v1 人工智能
摘要
联邦学习(Federated Learning, FL)是一种新颖的隐私保护分布式机器学习范式，凭借客户端本地训练的优势保障用户隐私并防范数据泄露风险。研究者们一直致力于设计公平的FL系统以确保结果的公平性。然而，公平性与隐私之间的相互作用却较少被研究。提升FL系统的公平性可能影响用户隐私，而增强用户隐私也可能影响公平性。在本工作中，我们在客户端侧使用人口均等(Demographic Parity, DemP)、均等机会(Equalized Odds, EOs)和差异影响(Disparate Impact, DI)等公平性指标来构建本地公平模型。为保护客户端模型的隐私，我们提出了一种隐私保护公平FL方法。结果表明，带有隐私的公平模型的准确率有所提升，因为隐私打破了公平性指标的约束。在我们的实验中，我们总结了隐私、公平与效用之间的关系，并且它们之间存在着权衡。
引用
@article{arxiv.2311.18190,
title = {Toward the Tradeoffs between Privacy, Fairness and Utility in Federated Learning},
author = {Kangkang Sun and Xiaojin Zhang and Xi Lin and Gaolei Li and Jing Wang and Jianhua Li},
journal= {arXiv preprint arXiv:2311.18190},
year = {2023}
}
备注
17 pages, 3 figures, conference