双管齐下：当联邦学习遇上差分隐私

联邦学习（FL）在不暴露原始数据的情况下进行大规模机器学习（ML）方面具有巨大潜力。差分隐私（DP）是隐私保护的事实标准，具有可证明的保证。机器学习的发展表明，差分隐私将是联邦学习实现全面隐私保护的完美搭档。因此，大量努力致力于实现具有差分隐私的实用联邦学习，但这仍然充满挑战。实践者往往不仅不完全了解其发展和分类，而且面临在隐私和效用之间做出艰难选择的问题。因此，需要对当前进展进行全面回顾，并研究具有差分隐私保证的高可用联邦学习系统所面临的挑战和机遇。在本文中，我们首先介绍联邦学习和差分隐私的基本概念，并强调集成的益处。然后，我们通过分类不同的范式和概念来回顾当前的发展。针对具有差分隐私的可用联邦学习，我们提出了在模型效用和隐私损失之间寻求更好权衡的优化原则。最后，我们讨论了新兴领域的未来挑战和相关研究课题。