AutoFL:实现感知异构的节能联邦学习
机器学习
2021-07-20 v1 分布式、并行与集群计算
摘要
联邦学习使边缘的一组去中心化移动设备能够协作训练共享的机器学习模型,同时将所有原始训练样本保留在设备上。这种去中心化训练方法被证明是降低隐私泄露风险的实用方案。然而,由于非独立同分布(non-IID)训练数据分布、广泛的系统异构性以及现场随机变化的运行时效应,在边缘实现高效的FL部署具有挑战性。本文通过考虑边缘执行的随机性,联合优化最先进FL用例的收敛时间和能效。我们提出AutoFL,通过专门设计的强化学习算法,在存在随机运行时方差、系统和数据异构性的情况下,学习并确定每个FL模型聚合轮次中哪些K个参与设备以及每设备执行目标。通过审慎考虑FL边缘部署的独特特征,AutoFL在K个参与者的客户端集群中分别实现了3.6倍的模型收敛时间加速,以及本地客户端和全局分别4.7倍和5.2倍的能效提升。
引用
@article{arxiv.2107.08147,
title = {AutoFL: Enabling Heterogeneity-Aware Energy Efficient Federated Learning},
author = {Young Geun Kim and Carole-Jean Wu},
journal= {arXiv preprint arXiv:2107.08147},
year = {2021}
}