中文

FLrce:基于早停策略的资源高效联邦学习

机器学习 2024-08-26 v4

摘要

联邦学习(FL)在物联网(IoT)中广受欢迎,作为一种强大接口,它能在维护数据隐私的同时向客户提供智能服务。在服务器协调下,边缘设备(在 FL 中亦称客户端)协作训练全局深度学习模型而不共享任何本地数据。然而,客户端间训练贡献的不均等使 FL 易受攻击,因为数据集严重偏倚的客户端可通过发送恶意或严重偏倚的参数更新轻易破坏 FL。此外,网络的资源短缺问题也成瓶颈。由于在边缘设备上训练深度学习模型产生巨大计算开销,以及跨网络传输深度学习模型带来显著通信开销,FL 过程消耗海量资源,涵盖能源等计算资源与带宽等通信资源。为全面应对这些挑战,本文提出 FLrce,一种带基于关系的客户端选择与早停策略的高效 FL 框架。FLrce 通过选择影响更显著的客户端加速 FL 过程,使全局模型以更少轮次收敛至高精度。FLrce 还利用早停机制提前终止 FL 以节省通信与计算资源。实验结果表明,相较现有高效 FL 框架,FLrce 将计算与通信效率分别提升至少 30% 与 43%。

关键词

引用

@article{arxiv.2310.09789,
  title  = {FLrce: Resource-Efficient Federated Learning with Early-Stopping Strategy},
  author = {Ziru Niu and Hai Dong and A. Kai Qin and Tao Gu},
  journal= {arXiv preprint arXiv:2310.09789},
  year   = {2024}
}

备注

Preprint, accepted by IEEE Transactions on Mobile Computing