联邦 AirNet：面向联邦学习的混合数字-模拟神经网络传输
多媒体
2022-01-13 v1
摘要
通过无线信道进行联邦学习的一个关键问题是如何在时变信道上交换大量模型参数。通常使用的两类解决方案基于数字和模拟方案。基于数字的解决方案采用量化和熵编码进行压缩，而通过无线信道传输可能因熵编码的全有或全无特性导致灾难性错误。基于模拟的解决方案（如 AirNet 和 AirComp）使用模拟调制进行参数传输。然而，此类模拟方案常因源信号功率大且无压缩增益而导致显著失真。本文提出一种新颖的混合数字-模拟传输——联邦 AirNet——用于联邦学习中的模型参数传输。联邦 AirNet 集成了低速率数字编码与能量紧凑型模拟调制。数字编码提供模型参数的基线并压缩源信号功率。此外，由原始与编码模型参数得到的残差参数经模拟调制，以根据瞬时无线信道质量增强基线。我们表明，在广泛的无线信道信噪比（SNR）范围内，所提出的联邦 AirNet 相比基于数字和基于模拟的解决方案取得了更好的图像分类精度。
引用
@article{arxiv.2201.04557,
title = {Federated AirNet: Hybrid Digital-Analog Neural Network Transmission for Federated Learning},
author = {Takuya Fujihashi and Toshiaki Koike-Akino and Takashi Watanabe},
journal= {arXiv preprint arXiv:2201.04557},
year = {2022}
}