基于分层聚类的空中接口联邦边缘学习
机器学习
2022-07-20 v1 分布式、并行与集群计算
摘要
我们研究具有空中接口（OTA）聚合的联邦学习（FL），其中移动用户（MUs）旨在借助参数服务器（PS）就全局模型达成共识，PS 聚合本地梯度。在 OTA FL 中，MUs 在每轮训练中利用本地数据训练模型，并以未编码方式使用同一频带同时传输其梯度。基于叠加梯度的接收信号，PS 执行全局模型更新。尽管 OTA FL 显著降低了通信开销，但它易受不利信道效应与噪声影响。在接收端采用多天线可减轻这些效应，但路径损耗对远离 PS 的用户仍是限制因素。为改善此问题，本文提出一种基于无线的分层 FL 方案，该方案利用中间服务器（ISs）在 MUs 分布较密集的区域形成簇。我们的方案利用 OTA 簇聚合实现 MUs 与相应 IS 的通信，以及从 ISs 到 PS 的 OTA 全局聚合。我们对所提算法给出收敛性分析，并通过推导解析表达式的数值评估与实验结果表明，使用 ISs 比单独 OTA FL 以更低发射功率实现更快收敛与更优性能。我们还用不同数据集与数据分布验证了不同簇迭代次数下的性能结果。我们得出结论：簇聚合的最佳选择取决于 MUs 与簇间的数据分布。
引用
@article{arxiv.2207.09232,
title = {Over-the-Air Federated Edge Learning with Hierarchical Clustering},
author = {Ozan Aygün and Mohammad Kazemi and Deniz Gündüz and Tolga M. Duman},
journal= {arXiv preprint arXiv:2207.09232},
year = {2022}
}
备注
30 pages, 6 figures