面向高效联邦学习的步骤提前部分误差反馈 (SA-PEF)

带有误差反馈 (EF) 的偏置梯度压缩可减少联邦学习 (FL) 中的通信开销，但在非 IID 数据下，残差误差可能衰减缓慢，导致梯度不匹配和早期阶段进度停滞。我们提出步骤提前部分误差反馈 (SA-PEF)，将步骤提前 (SA) 校正与部分误差反馈 (PEF) 集成。SA-PEF 在当步骤提前系数 $\alpha=0$ 时恢复 EF，当 $\alpha=1$ 时为步骤提前 EF (SAEF)。对于非凸目标和 $\delta$-压缩器， 我们建立了二阶矩界限和残差递归，保证在异构数据和部分客户端参与下收敛到平稳性。所得收敛率与标准非凸 Fed-SGD 保证相当，仅差一个常数因子，实现 $O((\eta,\eta_0TR)^{-1})$ 收敛到方差/异构性底部，同时固定内部步长。我们的分析揭示了步骤提前控制的残差收缩 $\rho_r$，解释了早期训练阶段所见的加速现象。为平衡 SAEF 的快速预热与 EF 的长期稳定性，我们选取 $\alpha$ 接近其理论预测的最优值。实验在多样化的架构和数据集上表明，SA-PEF 在达到目标精度方面 consistently 快于 EF。