私有 PAC 学习蕴含有限的 Littlestone 维数

我们证明了对于具有 Littlestone 维数 $d$ 的类 $H$，每个近似差分私有学习算法（可能是不恰当的）都需要 $\Omega\bigl(\log^*(d)\bigr)$ 个样本。作为推论，自然数集 $\mathbb{N}$ 上的阈值类不能以私有方式学习；这解决了 [Bun et al., 2015, Feldman and Xiao, 2015] 提出的开放问题。我们留下一个开放问题：是否每个具有有限 Littlestone 维数的类都能被近似差分私有算法学习。