中文

联邦学习中的完美梯度反演:源自隐子集和问题的新范式

密码学与安全 2024-09-24 v1

摘要

联邦学习(FL)已成为多方协作学习的主流范式。它被认为是隐私友好的,因为本地数据保留在个人设备上,仅共享中间参数(如梯度或模型更新)。尽管梯度反演被广泛视为 FL 中常见的攻击方法,但关于从共享梯度重构输入训练样本的分析研究仍然有限,且通常局限于小批量等受限场景。在本文中,我们旨在通过从密码学角度解决该问题来克服这些局限性。我们利用 FL 中共享的梯度信息,将输入重构问题数学化为隐子集和问题(HSSP),它是著名的 NP 完全子集和问题(SSP)的扩展。利用这一表述,我们实现了完美的输入重构,从而缓解了依赖标签多样性以及在大批量下表现不佳等阻碍现有经验梯度反演攻击的问题。此外,我们的分析揭示了经验输入重构攻击随批量增大而性能下降的原因。通过将该问题建模为 HSSP,我们证明批量大小 B B 显著影响攻击复杂度,其时间复杂度达到 O(B9) \mathcal{O}(B^9) 。我们进一步表明,应用安全数据聚合技术(如全同态加密和安全多方计算)可通过将时间复杂度增加至 O(N9B9) \mathcal{O}(N^9 B^9) 来提供强大的防御,其中 N N 为 FL 中的本地客户端数量。据我们所知,这是首篇通过将 FL 中的隐私问题建模为 HSSP 来严格分析该问题的工作,为进一步探索和开发防御策略提供了具体的分析基础。

关键词

引用

@article{arxiv.2409.14260,
  title  = {Perfect Gradient Inversion in Federated Learning: A New Paradigm from the Hidden Subset Sum Problem},
  author = {Qiongxiu Li and Lixia Luo and Agnese Gini and Changlong Ji and Zhanhao Hu and Xiao Li and Chengfang Fang and Jie Shi and Xiaolin Hu},
  journal= {arXiv preprint arXiv:2409.14260},
  year   = {2024}
}