低隐私 regime 下的无穷可分噪声

Rasmus Pagh; Nina Mesing Stausholm

低隐私 regime 下的无穷可分噪声

机器学习 2022-03-08 v3 密码学与安全数据结构与算法

作者: Rasmus Pagh , Nina Mesing Stausholm

摘要

联邦学习中训练数据分布于用户之间且从不共享,已成为一种流行的隐私保护机器学习方法。安全聚合等密码学技术用于聚合所有用户的贡献(如模型更新)。一种使此类聚合满足差分隐私的鲁棒技术是利用拉普拉斯分布的无穷可分性,即拉普拉斯分布可表示为来自 Gamma 分布的独立同分布噪声份额之和,每个用户添加一个份额。然而,已知拉普拉斯噪声在 $\varepsilon$ -差分隐私的低隐私 regime(其中 $\varepsilon > 1$ 为大常数)下具有次优误差。本文提出了第一种针对实值数据的无穷可分噪声分布,其满足 $\varepsilon$ -差分隐私且期望误差随 $\varepsilon$ 指数下降。

关键词

联邦学习差分隐私无穷可分噪声拉普拉斯分布低隐私 regime 安全聚合 Gamma 分布

引用

@article{arxiv.2110.06559,
  title  = {Infinitely Divisible Noise in the Low Privacy Regime},
  author = {Rasmus Pagh and Nina Mesing Stausholm},
  journal= {arXiv preprint arXiv:2110.06559},
  year   = {2022}
}

备注

To appear at International Conference on Algorithmic Learning Theory (ALT), 2022

低隐私 regime 下的无穷可分噪声

摘要

关键词

引用

备注

相关论文