FLock：利用区块链防御联邦学习中的恶意行为
密码学与安全
2022-11-09 v1 人工智能
计算机科学与博弈论
机器学习
摘要
联邦学习 (Federated Learning, FL) 是一种允许多个数据拥有者（客户端）在不损害数据隐私的情况下协作训练机器学习模型的有前景的方法。然而，现有的 FL 解决方案通常依赖一个中心化聚合器进行模型权重聚合，同时假设客户端是诚实的。即使数据隐私得以保留，单点故障和来自恶意客户端的数据投毒攻击问题仍未解决。为应对这一挑战，我们提出使用分布式账本技术 (Distributed Ledger Technology, DLT) 来实现 FLock，这是一个构建在区块链上的安全可靠的去中心化联邦学习系统。为保证模型质量，我们设计了一种新颖的点对点 (Peer-to-Peer, P2P) 审查和奖励/惩罚机制，由链上智能合约驱动，以检测和威慑恶意客户端。此外，该奖励/惩罚机制还作为激励，促使参与者在 FLock 系统中诚实地上传和审查模型参数。因此，FLock 以完全 P2P 的方式提高了 FL 系统的性能和鲁棒性。
引用
@article{arxiv.2211.04344,
title = {FLock: Defending Malicious Behaviors in Federated Learning with Blockchain},
author = {Nanqing Dong and Jiahao Sun and Zhipeng Wang and Shuoying Zhang and Shuhao Zheng},
journal= {arXiv preprint arXiv:2211.04344},
year = {2022}
}
备注
Accepted by NeurIPS 2022 Workshop