频谱呼吸：保护空中联邦学习免受干扰
机器学习
2024-11-25 v2 密码学与安全
信息论
math.IT
摘要
联邦学习（FL）是一种被广泛采用的从分布式移动数据中提炼人工智能的范式。然而，FL在移动网络中的部署可能因暴露于来自邻小区或干扰机的干扰而受损。现有干扰缓解技术需要多小区协作或至少干扰信道状态信息，这在实际中代价高昂。另一方面，将干扰视为噪声的功率控制可能因有限的功率预算而无效，且此机制可能引发干扰源的对抗措施。作为保护FL免受干扰的实用方法，我们提出频谱呼吸（Spectrum Breathing），其级联随机梯度剪枝与扩频，在不扩展带宽的情况下抑制干扰。代价是由于剪枝导致学习速度优雅退化而带来更高的学习延迟。我们同步这两种操作，使其级别由同一参数“呼吸深度”控制。为最优控制该参数，我们发展了基于鞅的带频谱呼吸的空中联邦学习收敛分析方法，称为AirBreathing FL。我们展示了由呼吸深度调节的梯度剪枝与干扰引发误差之间的性能权衡。给定接收SIR与模型大小，该权衡的优化产生两种控制呼吸深度的方案，可固定或自适应于信道与学习过程。实验表明，在传统空中FL在强干扰下无法收敛的场景中，采用固定或自适应呼吸深度的AirBreathing FL均能确保收敛，其中自适应方案达到接近理想的性能。
引用
@article{arxiv.2305.05933,
title = {Spectrum Breathing: Protecting Over-the-Air Federated Learning Against Interference},
author = {Zhanwei Wang and Kaibin Huang and Yonina C. Eldar},
journal= {arXiv preprint arXiv:2305.05933},
year = {2024}
}