面向实用隐私联邦学习的首个可证明保证：超越限制性假设
机器学习
2025-12-29 v1 最优化与控制
机器学习
摘要
联邦学习（Federated Learning, FL）使 decentralized 数据上的协作训练成为可能。差分隐私（Differential Privacy, DP）是联邦学习的关键，但当前的私有方法常常依赖不切实际的假设（如梯度受限或数据异构性），限制了实际应用。已有的工作虽然放宽了这些假设，却通常忽略了实际联邦学习的特征，包括多个本地更新和部分客户端参与。我们提出 Fed--NormEC，是首个在标准假设下仍能提供可证明收敛性和差分隐私保证的差分隐私联邦学习框架，同时完全支持这些实际特征。Fed--NormE 集成了本地更新（完整梯度步骤和增量梯度步骤）、独立的服务器和客户端步长，以及关键的部分客户端参与，这对于实际部署和隐私放大至关重要。我们的理论保证得到实验在私有深度学习任务中的验证。
引用
@article{arxiv.2512.21521,
title = {First Provable Guarantees for Practical Private FL: Beyond Restrictive Assumptions},
author = {Egor Shulgin and Grigory Malinovsky and Sarit Khirirat and Peter Richtárik},
journal= {arXiv preprint arXiv:2512.21521},
year = {2025}
}