FedSKETCH：基于草图绘制的通信高效且隐私保护的联邦学习
机器学习
2020-08-13 v1 数据结构与算法
机器学习
摘要
通信复杂度和隐私是联邦学习中的两个关键挑战，其目标是通过大量设备进行分布式学习。在这项工作中，我们引入了 FedSKETCH 和 FedSKETCHGATE 算法，以联合解决联邦学习中的这两个挑战，这些算法分别适用于同构和异构数据分布设置。其核心思想是利用计数草图（count sketch）压缩局部梯度的累积，因此服务器无法访问梯度本身，从而提供隐私保护。此外，由于所使用的草图维度较低，我们的方法也展现出通信高效特性。我们为上述方案提供了严格的收敛保证。最后，我们通过多组实验验证了我们的理论。
引用
@article{arxiv.2008.04975,
title = {FedSKETCH: Communication-Efficient and Private Federated Learning via Sketching},
author = {Farzin Haddadpour and Belhal Karimi and Ping Li and Xiaoyun Li},
journal= {arXiv preprint arXiv:2008.04975},
year = {2020}
}