计数模型的局部隐私贝叶斯推断
机器学习
2019-02-25 v3 计算与语言
密码学与安全
机器学习
社会与信息网络
摘要
我们提出了一种在 Poisson 分解中进行隐私保护贝叶斯推断的通用方法,Poisson 分解是一大类模型,包含社会科学中最广泛使用的一些模型。我们的方法满足有限精度局部隐私,这是局部差分隐私的一种推广,我们引入它以阐述适用于稀疏计数数据的隐私保证。我们开发了一种 MCMC 算法,用于近似逼近由几何机制(Ghosh 等,2012)局部隐私化的数据所对应的模型参数上的局部隐私后验分布。我们的解决方案基于两点见解:1)利用 Skellam 分布(Skellam,1946)对几何机制进行新颖的重新解释;2)一个将 Skellam 分布与 Bessel 分布(Yuan & Kalbfleisch,2000)联系起来的通用定理。我们在两个真实世界电子邮件数据的案例研究中展示了我们的方法,结果表明我们的方法始终优于常用的朴素方法,在文本中获得更高质量的主题,在网络中获得更准确的链接预测。在某些任务上,我们的隐私保护方法甚至优于以真实数据为条件的非隐私推断。
引用
@article{arxiv.1803.08471,
title = {Locally Private Bayesian Inference for Count Models},
author = {Aaron Schein and Zhiwei Steven Wu and Alexandra Schofield and Mingyuan Zhou and Hanna Wallach},
journal= {arXiv preprint arXiv:1803.08471},
year = {2019}
}