面向通信受限环境的绿色联邦学习全压缩管道
机器学习
2026-04-15 v2 分布式、并行与集群计算
摘要
联邦学习（Federated Learning）通过在分布式客户端之间进行协作模型训练，避免共享原始数据，从而保留隐私。然而，联邦学习常因显著的通信和计算开销而受限于其可扩展性和可持续性。在本工作中，我们为通信受限环境下的联邦学习引入了全压缩管道（Full Compression Pipeline, FCP）。FCP 将三种互补深度压缩技术（剪枝、量化和赫夫曼编码）集成到统一的端到端框架中。通过压缩本地模型和通信数据载荷，FCP 在保持竞争性精度的同时，显著降低了传输成本和资源消耗。为量化其影响，我们开发了一种评估框架，捕获通信和计算开销作为统一模型成本，允许对效率权衡进行整体评估。该管道在独立同分布（IID）和非独立同分布（non-IID）数据设置下进行评估。在一个代表性场景中，对 CIFAR-10 数据集上的十个客户端进行 ResNet-12 模型训练，带宽为 2 Mbps。FCP 实现了超过 11 倍的模型大小压缩，仅比未压缩基线下降 2% 精度，结果使联邦学习训练速度提高了超过 60%。
引用
@article{arxiv.2604.11146,
title = {A Full Compression Pipeline for Green Federated Learning in Communication-Constrained Environments},
author = {Elouan Colybes and Shirin Salehi and Anke Schmeink},
journal= {arXiv preprint arXiv:2604.11146},
year = {2026}
}
备注
This work was accepted at IEEE International Conference on Machine Learning for Communication and Networking (ICMLCN), 2026