联邦学习中的公平性与隐私保护：综述
密码学与安全
2023-07-17 v2
摘要
联邦学习（FL）作为一种分布式机器学习，随着隐私感知机器学习（ML）系统的兴起而受到欢迎，其作为一种通过在分散边缘客户端自身私有数据上构建全局模型并进行个体化训练来防止隐私泄露的技术。然而，现有工作采用安全多方计算（SMC）、差分隐私（DP）等隐私机制，这些机制极易受干扰、计算开销巨大、精度低等。随着 FL 系统日益广泛的部署，确保公平性并维持客户端在 FL 系统中的积极参与具有挑战性。极少数工作能为众多异构客户端提供合理满意的性能，且未能防止 FL 系统中针对特定人口统计的潜在偏见。当前努力未能在 FL 系统的隐私、公平性与模型性能之间达成折中，且易受若干额外问题影响。本文提供一篇全面综述，阐述 FL 的基本概念、现有隐私挑战、技术以及有关 FL 中隐私的相关工作。我们还广泛概述了日益增长的公平性挑战、现有公平性概念，以及尝试同时兼顾隐私与公平性的有限工作。通过全面描述现有 FL 系统，我们提出了与隐私保护与公平性感知 FL 系统挑战相关的未来潜在方向。
引用
@article{arxiv.2306.08402,
title = {Fairness and Privacy-Preserving in Federated Learning: A Survey},
author = {Taki Hasan Rafi and Faiza Anan Noor and Tahmid Hussain and Dong-Kyu Chae},
journal= {arXiv preprint arXiv:2306.08402},
year = {2023}
}
备注
23 pages; 2 figures