高斯混合模型的样本高效差分隐私学习

我们研究了具有近似差分隐私的高斯混合模型学习问题。我们证明大约 $kd^2 + k^{1.5} d^{1.75} + k^2 d$ 个样本足以在差分隐私条件下学习 $k$ 个任意 $d$ 维高斯混合模型至低总变差距离。我们的工作改进了此前最佳结果 [AAL24b]（需要约 $k^2 d^4$ 个样本），并且当 $d$ 远大于 $k^2$ 时是理论上最优的。此外，我们给出了私有学习 $k$ 个一元（即1维）高斯混合模型的首个最优界。重要的是，我们证明私有学习一元高斯混合模型的样本复杂度关于分量数 $k$ 是线性的，而此前最佳样本复杂度 [AAL21] 关于 $k$ 是二次的。我们的算法利用了多种技术，包括逆灵敏度机制 [AD20b, AD20a, HKMN23]、分布样本压缩 [ABDH+20] 以及和集体积界的方法。