面向工业物联网与智慧城市服务的粒子群优化联邦学习
机器学习
2020-09-09 v1 神经与进化计算
机器学习
摘要
大多数关于联邦学习（Federated Learning, FL）的研究聚焦于分析全局优化、隐私与通信，较少关注分析在边缘设备上进行高效本地训练与推理这一关键问题。在边缘设备上成功且高效训练和推理的主要挑战之一，是谨慎选择参数以构建本地机器学习（Machine Learning, ML）模型。为此，我们提出一种基于粒子群优化（Particle Swarm Optimization, PSO）的技术，用于优化FL环境中本地ML模型的超参数设置。我们使用两个案例研究评估所提技术的性能。首先，我们考虑智慧城市服务，并使用实验性交通数据集进行交通预测作为该设置的代理。其次，我们考虑工业物联网（Industrial IoT, IIoT）服务，并使用实时遥测数据集预测机器因部件故障而即将发生故障的概率。我们的实验表明，与网格搜索方法相比，PSO为深度长短期记忆（Long short-term memory, LSTM）模型的超参数调优提供了高效方法。我们的实验说明，探索配置空间以找到近最优参数所需的客户端-服务器通信轮次大幅减少（大约降低两个数量级，仅需最先进非PSO方法的2%--4%轮次）。我们还证明，利用所提基于PSO的技术为FL与集中式学习模型寻找近最优配置不会对模型精度产生不利影响。
引用
@article{arxiv.2009.02560,
title = {Particle Swarm Optimized Federated Learning For Industrial IoT and Smart City Services},
author = {Basheer Qolomany and Kashif Ahmad and Ala Al-Fuqaha and Junaid Qadir},
journal= {arXiv preprint arXiv:2009.02560},
year = {2020}
}