重新审视 (非)欧几里得空间中的差分隐私随机凸优化
机器学习
2023-04-03 v1 密码学与安全
最优化与控制
机器学习
摘要
在本文中，我们重新审视了欧几里得空间和一般 空间中的差分隐私随机凸优化 (DP-SCO) 问题。具体而言，我们关注三个仍未被充分理解的设定：(1) 欧几里得空间中受约束且有界 (凸) 集上的 DP-SCO；(2) 空间中的无约束 DP-SCO；(3) 空间中受约束且有界集上具有重尾数据的 DP-SCO。对于问题 (1)，针对凸和强凸损失函数，我们提出的方法其输出能够实现仅依赖于约束集的高斯宽度而非空间维度的 (期望) 超额总体风险。此外，我们还证明了对于强凸函数，该界在对数因子范围内是最优的。对于问题 (2) 和 (3)，我们提出了几种新颖的算法，并给出了当 和 时这两种情况的首个理论结果。
引用
@article{arxiv.2303.18047,
title = {Differentially Private Stochastic Convex Optimization in (Non)-Euclidean Space Revisited},
author = {Jinyan Su and Changhong Zhao and Di Wang},
journal= {arXiv preprint arXiv:2303.18047},
year = {2023}
}