差分隐私：这些噪声究竟关乎什么？

差分隐私（DP）是一种形式化的隐私定义，为数据处理过程中抵御隐私泄露风险提供严格保证。它不对攻击者的知识或计算能力作任何假设，并提供一种可解释、可量化且可组合的形式化框架。过去 15 年间 DP 得到了积极研究，但对许多机器学习（ML）从业者而言仍难以掌握。本文旨在概述 DP 在 ML 中最重要的一些思想、概念与用途，特别关注其与联邦学习（FL）的交叉领域。