中文

Flamingo:多轮单服务器安全聚合及其在隐私保护联邦学习中的应用

密码学与安全 2024-10-15 v4 机器学习

摘要

本文介绍 Flamingo,一种用于跨大量客户端数据安全聚合的系统。在安全聚合中,服务器对客户的私有输入求和,并在不获知除最终和所隐含信息之外的任何个体输入的情况下得到结果。Flamingo 关注联邦学习中常见的多轮设置,其中执行许多连续的模型权重求和(平均)以推导出良好模型。先前协议如 Bell 等人(CCS '20)专为单轮设计,并通过重复该协议来适配联邦学习设置。Flamingo 消除了先前协议每轮设置的需要,并具备一种轻量级掉线弹性协议,以确保若客户端在求和过程中离开,服务器仍可获得有意义的结果。此外,Flamingo 引入了一种本地选择 Bell 等人所提出的所谓客户端邻域的新方式。这些技术帮助 Flamingo 减少客户端与服务器间的交互次数,从而相较先前工作显著缩短整轮训练端的到端运行时间。我们实现并评估了 Flamingo,表明其可在(扩展)MNIST 与 CIFAR-100 数据集上安全地训练神经网络,且与非隐私联邦学习系统相比模型收敛而无精度损失。

关键词

引用

@article{arxiv.2308.09883,
  title  = {Flamingo: Multi-Round Single-Server Secure Aggregation with Applications to Private Federated Learning},
  author = {Yiping Ma and Jess Woods and Sebastian Angel and Antigoni Polychroniadou and Tal Rabin},
  journal= {arXiv preprint arXiv:2308.09883},
  year   = {2024}
}