RIFLES:通过调度实现资源高效的联邦学习
机器学习
2025-05-20 v1
摘要
联邦学习(FL)是一种隐私保护的机器学习技术,通过避免原始数据交换,允许在多个分布式客户端之间进行协ordan model training。FL 的一个基本组成部分是由中心服务器在每个轮次中选择用于模型训练的子集客户端。当前的选择策略往往是短视的,基于过去或当前的交互,常导致效率问题,如陷入缓慢的客户端。在本文中,我们通过提出 RIFLES 方法来解决这一严重短板,构建一个新的可用性预测层来支持客户端选择过程。我们的主要贡献包括:(i)我们形式化了顺序选择问题并将其归约为调度问题,证明了该问题是 NP 难的;(ii)利用来自客户端的心跳消息,RIFLES 构建一个可用性预测层以支持(长期)选择决策;(iii)我们提出了一种新的自适应选择策略以支持高效学习和资源使用。为规避固有的指数复杂性,我们提出 RIFLES,这是一种启发式方法,利用客户端的历史可用性数据,通过使用 CNN-LSTM 时间序列预测模型,使服务器能够预测客户端的最佳参与时间,从而实现信息化的选择决策。通过与其他 FL 技术进行比较,我们展示了 RIFLES 在各种指标(如准确率和测试损失)上提供了 10%-50% 的显著改进。据我们了解,这是首个将 FL 视为调度问题的工作。
引用
@article{arxiv.2505.13169,
title = {RIFLES: Resource-effIcient Federated LEarning via Scheduling},
author = {Sara Alosaime and Arshad Jhumka},
journal= {arXiv preprint arXiv:2505.13169},
year = {2025}
}