FLeet：基于陈旧度感知与性能预测的在线联邦学习
机器学习
2020-12-04 v2 分布式、并行与集群计算
机器学习
摘要
联邦学习（FL）因其隐私优势而极具吸引力：本质上，一个全局模型通过移动设备上计算的更新进行训练，同时将用户数据保留在本地。然而，标准的FL基础设施在设计上不会对移动设备的能耗或性能产生影响，因此不适用于需要频繁（在线）模型更新的应用，例如新闻推荐系统。本文提出了FLeet，这是首个在线FL系统，它充当Android操作系统与机器学习应用之间的中间件。FLeet结合了标准FL的隐私性与在线学习的精确性，这得益于两个核心组件：(i) I-Prof，一种新的轻量级分析器，用于预测和控制学习任务对移动设备的影响，以及 (ii) AdaSGD，一种新的自适应学习算法，对延迟更新具有弹性。我们广泛的评估表明，由FLeet实现的在线FL相比标准FL可提供2.3倍的质量提升，同时每天仅消耗0.036%的电量。I-Prof通过将预测精度提升高达3.6倍（计算时间）和19倍（能量），能够精确控制学习任务的影响。在异构数据上，AdaSGD的收敛速度比替代的FL方法高出18.4%。
引用
@article{arxiv.2006.07273,
title = {FLeet: Online Federated Learning via Staleness Awareness and Performance Prediction},
author = {Georgios Damaskinos and Rachid Guerraoui and Anne-Marie Kermarrec and Vlad Nitu and Rhicheek Patra and Francois Taiani},
journal= {arXiv preprint arXiv:2006.07273},
year = {2020}
}