面向异构模型的基于代理模型的全权重聚合联邦学习
机器学习
2025-03-14 v1 密码学与安全
摘要
现代联邦学习 (FL) 对于处理高度异构的移动设备日益重要。当前方法采用部分模型聚合范式，导致模型准确率次优且训练开销更高。本文挑战了部分模型聚合的主流观点，提出一种新颖的“全权重聚合”方法，命名为 Moss，通过聚合异构模型中的所有权重来保留全面的知识。跨越各种应用的评估表明，与最先进基线方法相比，Moss显著加速了训练，减少了设备训练时间和能源消耗，提高了准确率，并最小化了网络带宽利用。
引用
@article{arxiv.2503.10218,
title = {Moss: Proxy Model-based Full-Weight Aggregation in Federated Learning with Heterogeneous Models},
author = {Yifeng Cai and Ziqi Zhang and Ding Li and Yao Guo and Xiangqun Chen},
journal= {arXiv preprint arXiv:2503.10218},
year = {2025}
}
备注
Accepted by ACM IMWUT/Ubicomp 2025