无需添加噪声的差分隐私联邦学习：何时可行？

结合安全聚合的联邦学习作为一种隐私保护框架受到了广泛关注，它可以在防止服务器从用户各自的加密模型更新中获取用户数据信息的同时训练机器学习模型。近期研究通过利用来自其他用户更新的“噪声”，限制了多轮训练中通过聚合模型发生的信息泄露，从而扩展了结合安全聚合的联邦学习的隐私保证。然而，该工作中使用的隐私度量（互信息）衡量的是平均隐私泄露，并未对最坏情况提供任何隐私保证。为了解决这一问题，本文研究了结合安全聚合的联邦学习能够提供最坏情况差分隐私保证的条件。具体而言，我们正式确定了安全聚合能够在不添加噪声的情况下提供差分隐私的必要条件。然后我们证明，当聚合模型更新内部的随机性服从具有非奇异协方差矩阵的高斯分布时，安全聚合可以提供差分隐私保证，其隐私水平 $\epsilon$ 以协方差矩阵最小特征值的倒数为界。然而，我们进一步表明，在实践中这些条件几乎不可能成立，因此为了使联邦学习中的安全聚合实现差分隐私，仍然需要在模型更新中添加额外噪声。最后，我们讨论了利用聚合模型更新内部固有随机性以减少差分隐私保证所需添加噪声量的潜在解决方案。