中文

FedRFQ:一种减少冗余、最小化故障并提升质量的基于原型的联邦学习方法

分布式、并行与集群计算 2024-01-19 v1 机器学习

摘要

联邦学习是一种强大的技术,能够实现不同客户端之间的协作学习。基于原型的联邦学习是一种特定方法,通过整合类原型来改善非独立同分布(non-IID)设置下本地模型的性能。然而,基于原型的联邦学习面临若干挑战,例如原型冗余和原型故障,这限制了其准确性。它也容易受到投毒攻击和服务器故障的影响,从而降低原型质量。为了解决这些问题,我们提出了 FedRFQ,这是一种基于原型的联邦学习方法,旨在减少冗余(Redundancy)、最小化故障(Failure)并提升质量(Quality)。FedRFQ 利用 SoftPool 机制,有效缓解了非 IID 数据上的原型冗余和原型故障。此外,我们引入了 BFT-detect,一种可检测拜占庭容错(BFT)的聚合算法,以确保 FedRFQ 抵御投毒攻击和服务器故障的安全性。最后,我们在三个不同的数据集(MNIST、FEMNIST 和 CIFAR-10)上进行了实验,结果表明,在处理非 IID 数据时,FedRFQ 在准确性方面优于现有基线。

关键词

引用

@article{arxiv.2401.07558,
  title  = {FedRFQ: Prototype-Based Federated Learning with Reduced Redundancy, Minimal Failure, and Enhanced Quality},
  author = {Biwei Yan and Hongliang Zhang and Minghui Xu and Dongxiao Yu and Xiuzhen Cheng},
  journal= {arXiv preprint arXiv:2401.07558},
  year   = {2024}
}