面向安全联邦学习的客户端侧不变剪枝:消除瓶颈型客户端
机器学习
2025-10-21 v1 密码学与安全
分布式、并行与集群计算
摘要
安全联邦学习(FL)可在分布式模型训练期间保留数据隐私。然而,将此类框架部署到异构设备上会导致性能瓶颈,由于计算或网络能力有限的瓶颈型客户端会减慢所有参与客户端的训练速度。本文引入了首个针对深度神经网络的安全聚合 straggler 缓解技术。我们提出了CLIP,即一种基于客户端不变神经元剪枝技术,结合网络感知剪枝,以最小化精度损失,解决训练期间因瓶颈型客户端而导致的计算和网络瓶颈。该技术在多个数据集(CIFAR10、Shakespeare、FEMNIST)上将安全FL训练加速13%至34%,精度影响在1.3%的提升至2.6%的降低之间。
引用
@article{arxiv.2510.16694,
title = {CLIP: Client-Side Invariant Pruning for Mitigating Stragglers in Secure Federated Learning},
author = {Anthony DiMaggio and Raghav Sharma and Gururaj Saileshwar},
journal= {arXiv preprint arXiv:2510.16694},
year = {2025}
}