中文

基于区块链辅助的去中心化联邦学习(BLADE-FL)与惰性客户端

机器学习 2020-12-04 v1 人工智能

摘要

联邦学习(FL)作为一种分布式机器学习方法,近年来引起了广泛关注。由于用户的原始数据在本地处理,FL 在隐私保护方面具有天然优势。然而,它依赖中心化服务器执行模型聚合,因此易受服务器故障和外部攻击的影响。本文提出一种将区块链融入 FL 的新框架,即区块链辅助去中心化联邦学习(BLADE-FL),以增强 FL 的安全性。所提出的 BLADE-FL 在隐私保护、防篡改和学习有效协作方面表现良好。但它引发了一个由惰性客户端导致的新问题:这些客户端剽窃他人训练好的模型并添加人工噪声以掩盖其作弊行为,从而造成训练不足。具体而言,我们首先推导出存在惰性客户端时损失函数的收敛界,并证明该界关于已生成区块总数 KK 是凸的。随后,我们通过优化 KK 求解该凸问题以最小化损失函数。此外,我们揭示了最优 KK、惰性客户端数量以及惰性客户端所用人造噪声强度之间的关系。我们使用 MNIST 和 Fashion-MNIST 数据集进行了大量实验来评估所提框架的性能。分析结果与实验结果一致。并且,推导出的最优 KK 实现了损失函数的最小值,进而达到最优准确率性能。

关键词

引用

@article{arxiv.2012.02044,
  title  = {Blockchain Assisted Decentralized Federated Learning (BLADE-FL) with Lazy Clients},
  author = {Jun Li and Yumeng Shao and Ming Ding and Chuan Ma and Kang Wei and Zhu Han and H. Vincent Poor},
  journal= {arXiv preprint arXiv:2012.02044},
  year   = {2020}
}