中文

具有模型验证与类权益证明共识的鲁棒区块链联邦学习

机器学习 2021-01-12 v1 人工智能 密码学与安全 分布式、并行与集群计算 网络与互联网体系结构

摘要

联邦学习(FL)是一种有前景的分布式学习方案,仅交换模型参数而不泄露原始数据。然而,FL 的集中式架构易受单点故障影响。此外,FL 不检验本地模型的合法性,因此即便一小部分恶意设备也能破坏全局训练。为解决 FL 的这些鲁棒性问题,本文提出一种基于区块链的 decentralized FL 框架,称为 VBFL,在区块链架构中利用两种机制。首先,我们引入一种新颖的 decentralized 验证机制,由各个验证者检验本地模型更新的合法性。其次,我们设计了一种专用的权益证明共识机制,其中诚实设备更频繁地获得权益奖励,从而通过提高它们决定追加到区块链上的区块的机会来保护合法的本地模型更新。这些方案共同促进了合法设备间更多的联邦,实现了鲁棒 FL。我们在 MNIST 分类上的仿真结果证实,在 15% 恶意设备情况下,VBFL 达到 87% 准确率,比 Vanilla FL 高 7.4 倍。

关键词

引用

@article{arxiv.2101.03300,
  title  = {Robust Blockchained Federated Learning with Model Validation and Proof-of-Stake Inspired Consensus},
  author = {Hang Chen and Syed Ali Asif and Jihong Park and Chien-Chung Shen and Mehdi Bennis},
  journal= {arXiv preprint arXiv:2101.03300},
  year   = {2021}
}

备注

8 pages, 7 figures, AAAI 2021 Workshop - Towards Robust, Secure and Efficient Machine Learning