Brave：拜占庭鲁棒且隐私保护的点对点联邦学习
机器学习
2024-01-12 v1 密码学与安全
分布式、并行与集群计算
摘要
联邦学习（FL）使多个参与者能够在不共享其私有训练数据的情况下训练全局机器学习模型。点对点（P2P）FL通过消除聚合参与者本地模型并更新全局模型的服务器，推进了现有的集中式FL范式。然而，P2P FL容易受到（i）诚实但好奇的参与者的攻击，其目标是推断其他参与者的私有训练数据，以及（ii）拜占庭参与者的攻击，他们可以传输任意操纵的本地模型来破坏学习过程。同时保证拜占庭鲁棒性和隐私保护的P2P FL方案研究较少。在本文中，我们开发了Brave，一个在两种类型对手存在下确保P2P FL的拜占庭鲁棒性和隐私保护属性的协议。我们通过证明任何诚实但好奇的对手无法通过观察其他参与者的模型来推断其私有数据，表明Brave保护了隐私。我们进一步证明了Brave具有拜占庭鲁棒性，这保证了所有良性参与者收敛到一个相同的模型，该模型与在没有拜占庭对手的情况下训练的全局模型之间的偏差有界。我们在基准数据集CIFAR10和MNIST上的图像分类任务的P2P FL中，针对三个最先进的对手评估了Brave。我们的结果表明，在存在对手的情况下，使用Brave学习的全局模型达到了与在没有对手情况下训练的全局模型相当的分类准确率。
引用
@article{arxiv.2401.05562,
title = {Brave: Byzantine-Resilient and Privacy-Preserving Peer-to-Peer Federated Learning},
author = {Zhangchen Xu and Fengqing Jiang and Luyao Niu and Jinyuan Jia and Radha Poovendran},
journal= {arXiv preprint arXiv:2401.05562},
year = {2024}
}