RefProtoFL:基于外部参考原型对齐的通信高效联邦学习
机器学习
2026-01-27 v2
摘要
联邦学习(FL)使得边缘环境中的协作模型训练无需共享原始数据成为可能,但受到有限通信带宽和异构客户端数据分布的制约。基于原型的 FL 通过交换类别级特征原型而非完整模型参数来缓解这一问题;然而,现有方法在严格通信约束下仍然存在泛化性次优的问题。在本文中,我们提出了 RefProtoFL,一个通信高效的 FL 框架,该框架集成了用于表示一致性的外部参考原型对齐(ERPA)和用于提升通信效率的自适应概率更新丢弃(APUD)。具体而言,我们将模型分解为私有主干网络和轻量级共享适配器,并将联邦通信限制在适配器参数上。为了进一步降低上行链路成本,APUD 执行幅度感知的 Top-K 稀疏化,仅传输最显著的适配器更新以供服务器端聚合。为了解决异构客户端之间的表示不一致问题,ERPA 利用服务器端持有的一小部分公共数据集来构建外部参考原型,作为共享的语义锚点。对于被公共数据覆盖的类别,客户端将本地表示直接对齐到由公共数据生成的原型;而对于未覆盖的类别,则通过加权平均依靠服务器聚合的全局参考原型进行对齐。在标准基准上的大量实验表明,RefProtoFL 比最先进的基于原型的 FL 基线获得了更高的分类准确率。
引用
@article{arxiv.2601.14746,
title = {RefProtoFL: Communication-Efficient Federated Learning via External-Referenced Prototype Alignment},
author = {Hongyue Wu and Hangyu Li and Guodong Fan and Haoran Zhu and Shizhan Chen and Zhiyong Feng},
journal= {arXiv preprint arXiv:2601.14746},
year = {2026}
}