FedWSQ：基于权重标准化和分布感知非均匀量化的高效联邦学习
机器学习
2025-07-23 v3 人工智能
计算机视觉与模式识别
摘要
联邦学习（FL）常因数据异构性和通信约束等关键挑战而出现性能下降。为此，本文提出了一种新型FL框架，称为FedWSQ，集成了权重标准化（WS）和提出的分布感知非均匀量化（DANUQ）。WS通过在训练期间过滤本地更新中的偏置成分，提高了对数据异构性和不可靠客户端参与的鲁棒性。在此基础上，DANUQ利用本地模型更新的统计特性来最小化量化误差。因此，FedWSQ在保持卓越模型精度的同时，显著降低了通信开销。在FL基准数据集上进行的大量实验表明，FedWSQ在包括极端数据异构性和超低比特通信场景在内的各种具有挑战性的FL设置下，始终优于现有FL方法。
引用
@article{arxiv.2506.23516,
title = {FedWSQ: Efficient Federated Learning with Weight Standardization and Distribution-Aware Non-Uniform Quantization},
author = {Seung-Wook Kim and Seongyeol Kim and Jiah Kim and Seowon Ji and Se-Ho Lee},
journal= {arXiv preprint arXiv:2506.23516},
year = {2025}
}