Safe-EF：用于非光滑约束优化的误差反馈
机器学习
2025-06-04 v1 最优化与控制
机器学习
摘要
联邦学习因模型更新的高维度问题，面临严重的通信瓶颈。采用具有收缩性的压缩方法（如 Top-K）进行通信压缩在实际应用中往往是首选，但若未处理得当会导致性能下降。误差反馈（Error Feedback, EF）可缓解此类问题，但其主要局限于光滑、无约束问题，限制了在非光滑目标和安全约束至关重要的实际场景中的应用。我们通过建立非光滑凸设置下带有收缩压缩的的一阶算法的新型下界，深入理解了EF在该领域中的作用。随后，我们提出Safe-EF算法，使其在满足实际应用中必需的安全约束条件下，达到与下界相当的复杂度（常数因子内）。将该方法扩展至随机情形后，我们弥合了理论与实际实现之间的差距。大量实验在强化学习环境中进行，模拟了分布式人形机器人训练的情形，验证了Safe-EF在确保安全性和降低通信复杂度方面的有效性。
引用
@article{arxiv.2505.06053,
title = {Safe-EF: Error Feedback for Nonsmooth Constrained Optimization},
author = {Rustem Islamov and Yarden As and Ilyas Fatkhullin},
journal= {arXiv preprint arXiv:2505.06053},
year = {2025}
}