多比特量化联邦学习中基于符号错误率的设备选择机制
信息论
2024-05-07 v1 人工智能
math.IT
摘要
无线通信的质量将直接影响联邦学习（FL）的性能，因此本文通过符号错误率（SER）分析无线通信对FL的影响。在FL系统中，非正交多址接入（NOMA）可作为基本通信框架，利用无线信道的叠加特性来减少多用户引起的通信拥塞和干扰。在接收端，采用基于最小均方误差（MMSE）的串行干扰消除（SIC）技术逐个恢复每个终端节点的梯度。本文将梯度参数量化为多个比特，以最大限度地保留更多梯度信息，并提高对传输错误的容忍度。在此基础上，我们设计了基于SER的设备选择机制（SER-DSM），以确保学习性能不受通信条件差的用户影响，同时尽可能容纳更多用户参与学习过程，这在一定程度上具有包容性。实验展示了梯度的多比特量化对FL的影响，以及所提出的基于SER的设备选择机制的必要性和优越性。
引用
@article{arxiv.2405.02320,
title = {A SER-based Device Selection Mechanism in Multi-bits Quantization Federated Learning},
author = {Pengcheng Sun and Erwu Liu and Rui Wang},
journal= {arXiv preprint arXiv:2405.02320},
year = {2024}
}