中文

基于自适应随机响应机制的局部差分隐私下贝叶斯频率估计

机器学习 2025-02-17 v2 密码学与安全 机器学习

摘要

频率估计在涉及个人和私有分类数据的许多应用中发挥着关键作用。此类数据通常随时间顺序收集,因此在保持隐私的前提下实时估计其分布具有重要价值。我们提出了AdOBEst-LDP算法,用于在局部差分隐私 (LDP) 下进行自适应、在线贝叶斯分类分布估计。AdOBEst-LDP的核心思想是通过利用先前收集的隐私化分类数据的推理,提高未来隐私化分类数据的实用性。为此,AdOBEst-LDP使用新的自适应LDP机制来收集隐私化数据。该LDP机制将其输出限制在一个“预测”下一个用户数据的类别子集中。通过贝叶斯估计自适应地调整子集选择过程以适应过去的隐私化数据,算法可提高未来隐私化数据的实用性。为量化实用性,我们探索了各种众所周知的信息度量,包括(但不限于)Fisher信息矩阵、总变差距离和信息熵。对于贝叶斯估计,我们利用通过随机梯度朗贝斯动力学的后验抽样,这是一种计算效率较高的近似Markov链蒙特卡罗 (MCMC) 方法。我们提供了理论分析,表明(i)针对贝叶斯估计的类别概率后验分布即使采用近似后验抽样也收敛于真实概率,而(ii)如果执行精确的后验抽样,AdOBEst-LDP最终以高概率选择其LDP机制的最优子集。我们还 presented numerical results 以验证AdOBEst-LDP的估计精度。我们的比较表明,在不同的隐私水平和分布参数下,AdOBEst-LDP的性能优于非自适应和半自适应竞争者。

关键词

引用

@article{arxiv.2405.07020,
  title  = {Bayesian Frequency Estimation Under Local Differential Privacy With an Adaptive Randomized Response Mechanism},
  author = {Soner Aydin and Sinan Yildirim},
  journal= {arXiv preprint arXiv:2405.07020},
  year   = {2025}
}

备注

Code for experiments available at https://github.com/soneraydin/AdOBEst_LDP