中文

等待还是不等待:评估基于区块链的联邦聚合中速度与精度之间的权衡

分布式、并行与集群计算 2024-10-21 v1

摘要

本文提出了一种完全耦合的区块链辅助联邦学习架构,通过将训练和聚合任务分散到所有参与者,有效消除了单点故障。我们提出的系统具有高度的灵活性,允许参与者选择共享模型并定制聚合以满足本地需求,从而优化系统性能,包括准确的推理结果。值得注意的是,我们工作中区块链技术的集成旨在促进无信任环境,确保在检测到异常时参与者之间的透明性和不可否认性。为了验证有效性,我们在一个私有以太坊平台上进行了真实世界的联邦学习部署,使用了从简单到复杂的两种不同神经网络模型。实验结果表明,集中式与分散式联邦学习设置之间的推理精度相当。此外,我们的发现表明,异步聚合对于简单学习模型是一个可行的选择。然而,复杂学习模型需要更多的训练模型参与聚合以实现高模型质量,而非异步聚合。通过实施异步聚合和选择模型的灵活性,参与者预计每个通信轮次的聚合时间会减少,同时经历最小的精度权衡。

关键词

引用

@article{arxiv.2406.00181,
  title  = {Wait or Not to Wait: Evaluating Trade-Offs between Speed and Precision in Blockchain-based Federated Aggregation},
  author = {Huong Nguyen and Tri Nguyen and Lauri Lovén and Susanna Pirttikangas},
  journal= {arXiv preprint arXiv:2406.00181},
  year   = {2024}
}

备注

Accepted at Workshop on Engineering techniques for Distributed Computing Continuum Systems 2024