中文

PLAN:方差感知的私有均值估计

密码学与安全 2024-04-11 v3 数据结构与算法 机器学习

摘要

差分私有均值估计是数据分析与机器学习中隐私保护算法的重要基石。尽管最坏情形下的隐私-效用权衡已被充分理解,许多数据集呈现的结构可被潜在利用以得到更优算法。本文提出 Private Limit Adapted Noise\textit{Private Limit Adapted Noise} (PLAN),一类用于均值估计的差分私有算法,其设定为输入独立采样自 Rd\mathbf{R}^d 上的分布 D\mathcal{D},且具有坐标方向标准差 σRd\boldsymbol{\sigma} \in \mathbf{R}^d。类似于马氏距离下的均值估计,PLAN 使噪声形状适配数据形状,但不同于以往算法,其隐私预算在各坐标上非均匀消耗。在对 D\mathcal{D} 的浓度假设下,我们展示如何利用 σ\boldsymbol{\sigma} 向量的偏斜,获得误差 2\ell_2 正比于 σ1\|\boldsymbol{\sigma}\|_1 的(零集中)差分私有均值估计。已有工作或未考虑 σ\boldsymbol{\sigma},或以马氏距离度量误差——两种情形均导致 2\ell_2 误差正比于 dσ2\sqrt{d}\|\boldsymbol{\sigma}\|_2,其最大可高出 d\sqrt{d} 倍。为验证 PLAN 有效性,我们在合成与真实世界数据上实证评估了精度。

关键词

引用

@article{arxiv.2306.08745,
  title  = {PLAN: Variance-Aware Private Mean Estimation},
  author = {Martin Aumüller and Christian Janos Lebeda and Boel Nelson and Rasmus Pagh},
  journal= {arXiv preprint arXiv:2306.08745},
  year   = {2024}
}