无线异构性条件下的偏置性OTA联邦学习
机器学习
2024-04-01 v1 信号处理
摘要
近期，基于无线信道波形叠加特性实现快速模型更新的Over-the-Air (OTA)计算方法在联邦学习 (FL) 范式中日益受到关注。既有工作聚焦于OTA设备“预缩放”设计，假设各设备经历相同的平均路径损耗，从而实现零偏差解。然而，零偏差方案受制于最差平均路径损耗的设备，因而在异构无线环境下可能表现不佳。在这种情况下，可能以较低方差换取偏置的设计具有优势。为优化这一权衡，我们聚焦于OTA-FL收敛性，推导了模型“最优误差”的上界，明确刻画了偏置与方差如何通过预缩放器的选择相互作用。基于该上界，我们识别出两种值得关注的解决方案：最小噪声方差方案和最小噪声方差零偏差方案。数值评估表明，使用能够最小化联邦学习更新方差的OTA设备预缩放器（允许一定偏置）可相对于现有方案实现显著提升。
引用
@article{arxiv.2403.19849,
title = {Biased Over-the-Air Federated Learning under Wireless Heterogeneity},
author = {Muhammad Faraz Ul Abrar and Nicolò Michelusi},
journal= {arXiv preprint arXiv:2403.19849},
year = {2024}
}
备注
Accepted at IEEE International Conference on Communications (ICC), 2024