少用户情形下的紧致且鲁棒私有均值估计
数据结构与算法
2022-06-14 v2 密码学与安全
机器学习
统计理论
统计理论
摘要
在这项工作中,我们研究了用户级差分隐私下的高维均值估计,并设计了使用尽可能少用户的 -差分隐私机制。特别地,我们给出了私有均值估计所需的用户数与每用户样本数之间近乎最优的权衡,即使用户数低至 时亦如此。有趣的是,这一关于\emph{用户数}的界限与维度无关(尽管\emph{每用户样本数}允许以维度的多项式依赖),而此前的工作要求用户数多项式依赖于维度。这解决了 Amin 等人首次提出的一个问题。此外,我们的机制对多达 用户的损坏具有鲁棒性。最后,我们的结果也适用于少用户情形下私有学习离散分布的最优算法,回答了 Liu 等人的一个问题,并且通过归约到差分隐私均值估计,可推广至随机凸优化和一种随机梯度下降变体等更广泛的问题。
引用
@article{arxiv.2110.11876,
title = {Tight and Robust Private Mean Estimation with Few Users},
author = {Hossein Esfandiari and Vahab Mirrokni and Shyam Narayanan},
journal= {arXiv preprint arXiv:2110.11876},
year = {2022}
}
备注
41 pages. To appear in the International Conference on Machine Learning (ICML), 2022