SubFLOT: 通过最优传输进行子模型提取以实现高效且个性化的联邦学习
机器学习
2026-04-09 v1 人工智能
计算机视觉与模式识别
摘要
联邦学习(Federated Learning, FL)使协作模型训练成为可能，同时保留数据隐私，但其有效部署受到系统和统计异质性的阻碍。虽然联邦网络剪枝提供了一条缓解这些问题的途径，但现有方法面临一个关键困境：服务器端剪枝缺乏个性化，而客户端剪枝对资源受限设备而言计算代价过高。此外，剪枝过程本身会在异构子模型之间引发显著的参数发散，破坏训练稳定性并阻碍全局收敛。为应对这些挑战，我们提出了 SubFLOT，一个用于服务器端个性化联邦剪枝的新型框架。SubFLOT 引入了一个最优传输增强剪枝(Optimal Transport-enhanced Pruning, OTP)模块，将历史客户端模型视为局部数据分布的代理，将剪枝任务表述为 Wasserstein 距离最小化问题，从而在不访问原始数据的情况下生成定制化子模型。同时，为对抗参数发散，我们的基于缩放的 Adaptive 正则化(Scaling-based Adaptive Regularization, SAR)模块自适应地惩罚子模型与全局模型的偏离，惩罚强度由客户端的剪枝率进行缩放。全面实验表明，SubFLOT 持续且显著地优于最先进方法，凸显了其在资源受限边缘设备上部署高效且个性化模型的潜力。
引用
@article{arxiv.2604.06631,
title = {SubFLOT: Submodel Extraction for Efficient and Personalized Federated Learning via Optimal Transport},
author = {Zheng Jiang and Nan He and Yiming Chen and Lifeng Sun},
journal= {arXiv preprint arXiv:2604.06631},
year = {2026}
}
备注
Accepted by CVPR 2026