FedDRL:基于深度强化学习的联邦学习中非独立同分布数据自适应聚合
机器学习
2022-08-05 v1 计算机视觉与模式识别
摘要
本地数据在不同边缘设备(客户端)间的不均衡分布导致联邦学习中模型训练缓慢与精度下降。朴素联邦学习(FL)策略及多数替代方案试图通过对跨客户端深度学习模型进行加权聚合来实现更高公平性。本工作引入了一种真实数据集中遇到的新型非独立同分布(non-IID)类型,即簇偏斜(cluster-skew),其中成组客户端拥有分布相似的本地数据,导致全局模型收敛至过拟合解。为处理非 IID 数据,尤其是簇偏斜数据,我们提出 FedDRL,一种新颖的 FL 模型,其采用深度强化学习自适应确定各客户端的影响因子(将用作聚合过程中的权重)。在一系列联邦数据集上的大量实验证实,所提 FedDRL 相较 FedAvg 与 FedProx 方法均有良好提升,例如在 CIFAR-100 数据集上分别平均最高提升 4.05% 与 2.17%。
引用
@article{arxiv.2208.02442,
title = {FedDRL: Deep Reinforcement Learning-based Adaptive Aggregation for Non-IID Data in Federated Learning},
author = {Nang Hung Nguyen and Phi Le Nguyen and Duc Long Nguyen and Trung Thanh Nguyen and Thuy Dung Nguyen and Huy Hieu Pham and Truong Thao Nguyen},
journal= {arXiv preprint arXiv:2208.02442},
year = {2022}
}
备注
Accepted for presentation at the 51st International Conference on Parallel Processing