基于模型重构的曲率感知异构性联邦剪枝 (CA-HFP)
机器学习
2026-03-16 v1 人工智能
摘要
在异构边缘设备上进行联邦学习需要在保持聚合兼容性和稳定收敛性的同时实现个性化压缩。我们提出曲率感知异构性联邦剪枝 (CA-HFP)，一个实用框架，使每个客户端依据曲率信息导数 significance score 执行结构化、设备特定的剪枝，并通过轻量级重建将紧凑子模型映射回常见的全局参数空间。我们推导了考虑局部计算、数据异构性和剪枝引起扰动的多次局部 SGD 步骤的收敛界限，由此导出原则性基于损失的剪枝准则。在 FMNIST、CIFAR-10 和 CIFAR-100 上使用 VGG 和 ResNet 架构，在不同数据异构性程度下进行实验，表明 CA-HFP 在保持模型准确率的同时显著降低了每个客户端的计算和通信成本，优于标准联邦训练和现有剪枝基线方法。
引用
@article{arxiv.2603.12591,
title = {CA-HFP: Curvature-Aware Heterogeneous Federated Pruning with Model Reconstruction},
author = {Gang Hu and Yinglei Teng and Pengfei Wu and Shijun Ma},
journal= {arXiv preprint arXiv:2603.12591},
year = {2026}
}