面向联邦学习的带密钥-锁模块的梯度泄露防御

联邦学习（FL）是一种被广泛采用的隐私保护机器学习方法，私有数据保留在本地，实现安全计算并在本地客户端与第三方参数服务器间交换本地模型梯度。然而，近期研究发现隐私可能遭泄露，敏感信息有可能从共享梯度中恢复。本研究对梯度泄露问题提供了详细分析与理解的新视角。这些理论工作引出了一种利用私有密钥-锁模块保护任意模型架构的新梯度泄露防御技术。仅被锁定的梯度被传至参数服务器用于全局模型聚合。我们提出的学习方法可抵抗梯度泄露攻击，且密钥-锁模块经设计与训练以确保：若无密钥-锁模块的私有信息，a) 从共享梯度重构私有训练数据不可行；b) 全局模型的推理性能显著受损。我们讨论了梯度为何会泄露私有信息的理论根源，并提供了方法有效性的理论证明。我们在多个流行基准上以众多模型进行了广泛实证评估，证明了所提方法在保持模型性能与防御梯度泄露攻击方面的鲁棒性。