中文

去中心化无线联邦学习与差分隐私

分布式、并行与集群计算 2022-01-19 v3

摘要

本文研究了无线 IoT 网络中的去中心化联邦学习算法。联邦学习的传统参数服务器架构面临一些诸如容错性低、通信开销大以及私有数据不可访问的问题。为解决这些问题,我们提出了一种称为 DWFL 的去中心化无线联邦学习(Decentralized-Wireless-Federated-Learning)算法。该算法工作于这样一种系统:其中的工作节点以点对点和无服务器方式组织,并且工作节点通过无线信道上的模拟传输方案并行地交换其隐私保护数据。通过严格分析,我们表明 DWFL 满足 (ϵ,δ)(\epsilon,\delta)-差分隐私,且每工作节点的隐私预算随 O(1N)\mathcal{O}(\frac{1}{\sqrt{N}}) 缩放,而正交传输方法中隐私预算为常数。此外,DWFL 以与已知最佳带中央参数服务器的集中式算法相同的 O(1TN)\mathcal{O}(\sqrt{\frac{1}{TN}}) 速率收敛。大量实验表明我们的算法 DWFL 在真实设置中也表现良好。

关键词

引用

@article{arxiv.2109.09142,
  title  = {Decentralized Wireless Federated Learning with Differential Privacy},
  author = {Shuzhen Chen and Dongxiao Yu and Yifei Zou and Jiguo Yu and Xiuzhen Cheng},
  journal= {arXiv preprint arXiv:2109.09142},
  year   = {2022}
}