差分隐私多层联邦学习
机器学习
2024-11-11 v5 密码学与安全
分布式、并行与集群计算
摘要
虽然联邦学习 (FL) 消除了通过网络传输原始数据，但它仍然容易受到来自通信模型参数的隐私泄露。在本工作中，我们提出了具有多层差分隐私的多层联邦学习 (M^2FDP)，这是一种用于在层次化网络中联合优化隐私与性能的差分隐私增强型 FL 方法。M^2FDP 的关键概念之一是将 HDP 的概念扩展至多层差分隐私 (MDP)，同时根据特定子网内的信任模型，在已建立的 FL 层次结构的不同层——边缘设备、边缘服务器和云服务器——调整差分隐私噪声注入。我们对 M^2FDP 的收敛行为进行了全面分析，揭示了参数调节的条件，在此条件下训练过程次线性地收敛至一个有限的稳定性间隙，该间隙取决于网络层次、信任模型和目标隐私水平。随后的数值评估表明，在不同的隐私预算下，M^2FDP 在这些指标上相比基线获得了显著改进，并验证了不同系统配置的影响。
引用
@article{arxiv.2401.11592,
title = {Differentially-Private Multi-Tier Federated Learning},
author = {Evan Chen and Frank Po-Chen Lin and Dong-Jun Han and Christopher G. Brinton},
journal= {arXiv preprint arXiv:2401.11592},
year = {2024}
}