基于不经意分布式差分隐私的抗合谋联邦学习
密码学与安全
2022-02-22 v1 人工智能
多智能体系统
摘要
隐私保护联邦学习使分布式客户端群体能够在保持客户端训练数据私密（即使对不可信服务器也是如此）的同时联合学习共享模型。已有工作未能提供高效方案以防范各方协作暴露诚实客户端模型参数的合谋攻击。我们提出一种基于不经意分布式差分隐私的高效机制，该机制首次防范此类客户端合谋，包括服务器优先选择被攻陷设备或模拟虚假设备的“女巫”攻击。我们利用该新颖隐私机制构建安全联邦学习协议并证明其安全性。最后，我们在 5000 个分布式网络客户端的真实模拟中，对该协议在两个数据集上的执行速度、学习精度与隐私性能进行了实证分析。
引用
@article{arxiv.2202.09897,
title = {Collusion Resistant Federated Learning with Oblivious Distributed Differential Privacy},
author = {David Byrd and Vaikkunth Mugunthan and Antigoni Polychroniadou and Tucker Hybinette Balch},
journal= {arXiv preprint arXiv:2202.09897},
year = {2022}
}