差分隐私黎曼优化
最优化与控制
2022-05-20 v1 密码学与安全
机器学习
机器学习
摘要
本文研究参数约束于黎曼流形上的差分隐私经验风险最小化问题。我们通过在切空间上的黎曼梯度添加噪声，引入了一种差分隐私黎曼优化框架。该噪声遵循相对于黎曼度量内在定义的高斯分布。我们将欧氏空间中的高斯机制适配到与该广义高斯分布相容的切空间上。我们表明，与直接在流形上添加噪声相比，该策略给出了更简单的分析。我们进一步利用矩会计员技术的扩展，给出了所提出的差分隐私黎曼（随机）梯度下降的隐私保证。此外，我们在测地（强）凸、一般非凸目标以及黎曼 Polyak-Łojasiewicz 条件下证明了效用保证。我们在多个应用中展示了所提框架的有效性。
引用
@article{arxiv.2205.09494,
title = {Differentially private Riemannian optimization},
author = {Andi Han and Bamdev Mishra and Pratik Jawanpuria and Junbin Gao},
journal= {arXiv preprint arXiv:2205.09494},
year = {2022}
}