面向贝叶斯优化的本地差分隐私
机器学习
2020-10-15 v1 密码学与安全
摘要
受当今数据密集型在线学习系统中日益增长的隐私关注所驱动,我们考虑在非参数高斯过程设置下具有本地差分隐私(LDP)保证的黑盒优化。具体而言,来自每个用户的奖励被进一步扰动以保护隐私,学习器只能访问被扰动的奖励以最小化遗憾。我们首先推导任意 LDP 机制和任意学习算法的遗憾下界。然后,我们提出三种基于 GP-UCB 框架和 Laplace DP 机制的近乎最优算法。在此过程中,我们还提出一种基于均值中位数技术和核近似的新贝叶斯优化(BO)方法(称为 MoMA-GP-UCB),其以更低的复杂度补充了先前针对重尾收益的 BO 算法。此外,在合成和真实世界数据集上不同算法的经验比较凸显了 MoMA-GP-UCB 在隐私和非隐私场景下的优越性能。
引用
@article{arxiv.2010.06709,
title = {Local Differential Privacy for Bayesian Optimization},
author = {Xingyu Zhou and Jian Tan},
journal= {arXiv preprint arXiv:2010.06709},
year = {2020}
}