通过相关采样实现用户级隐私学习

大多数带有差分隐私（DP）的学习工作都聚焦于每个用户仅有单个样本的设置。在本文中，我们考虑每个用户持有 $m$ 个样本且隐私保护在每个用户数据层面强制执行的设置。我们表明，在此设置下，我们可以用少得多的用户数进行学习。具体而言，我们表明，只要每个用户收到足够多的样本，我们就能仅使用 $O(\log(1/\delta)/\epsilon)$ 个用户通过 $(\epsilon, \delta)$-DP算法学习任何可私有学习的类。对于 $\epsilon$-DP算法，我们表明即使在本地模型中也可仅使用 $O_{\epsilon}(d)$ 个用户进行学习，其中 $d$ 为概率表示维度。在这两种情况下，我们都展示了所需用户数的近乎匹配的下界。我们结果的一个关键组成部分是对全局稳定性[Bun et al., FOCS 2020]的推广，该推广允许使用公共随机性。在此放宽的概念下，我们采用相关采样策略表明全局稳定性可被提升得任意接近1，代价是样本数以多项式方式增加。