中文

局部差分隐私下离散分布的鲁棒估计

统计理论 2022-04-21 v2 机器学习 统计理论

摘要

尽管鲁棒学习和局部差分隐私都是被广泛研究的领域,但将两者结合才刚刚开始被探索。我们考虑在局部差分隐私约束下,从nn个受污染的批次数据中以全变差距离估计离散分布的问题。其中比例为1ϵ1-\epsilon的批次包含从dd个元素上的离散分布pp抽取的kk个i.i.d.样本。为保护用户隐私,每个样本都使用α\alpha-局部差分隐私机制进行私有化。剩余的ϵn\epsilon n个批次为对抗性污染。已知在仅有污染而无隐私约束下,估计的极小极大速率为ϵ/k+d/kn\epsilon/\sqrt{k}+\sqrt{d/kn},相差一个log(1/ϵ)\sqrt{\log(1/\epsilon)}因子。在仅有隐私约束下,估计的极小极大速率为d2/α2kn\sqrt{d^2/\alpha^2 kn}。我们证明,结合两种约束导致极小极大估计速率为ϵd/α2k+d2/α2kn\epsilon\sqrt{d/\alpha^2 k}+\sqrt{d^2/\alpha^2 kn}(相差一个log(1/ϵ)\sqrt{\log(1/\epsilon)}因子),大于两个单独速率之和。我们给出了达到该界的多项式时间算法,以及匹配的信息论下界。

关键词

引用

@article{arxiv.2202.06825,
  title  = {Robust Estimation of Discrete Distributions under Local Differential Privacy},
  author = {Julien Chhor and Flore Sentenac},
  journal= {arXiv preprint arXiv:2202.06825},
  year   = {2022}
}