中文

非交互式本地差分隐私下的经验风险最小化:效率与高维情形

机器学习 2018-05-18 v3 密码学与安全 机器学习

摘要

在本文中,我们研究差分隐私的非交互式本地模型中的经验风险最小化问题。在常数或低维情形(pnp\ll n)下,我们首先证明:若 ERM 损失函数是 (,T)(\infty, T)-光滑的,则我们可以避免为实现误差 α\alpha 所需的样本复杂度对以 1/α1/\alpha 为底、维数 pp 为指数的依赖(即 αp\alpha^{-p}),这回答了 [smith 2017 interaction] 中的一个问题。我们的方法基于多项式逼近。随后,我们提出具有 11-比特通信复杂度和每个参与者 O(1)O(1) 计算成本的参与者高效算法。其误差界与原始误差界渐近相同。在附加假设下,我们还给出了一种服务端高效算法。接下来我们考虑高维情形(npn\ll p),表明若损失函数为广义线性函数且凸,则我们可以得到依赖于底层约束集的 Gaussian 宽度而非 pp 的误差界,该界低于 [smith 2017 interaction] 中的结果。

关键词

引用

@article{arxiv.1802.04085,
  title  = {Empirical Risk Minimization in Non-interactive Local Differential Privacy: Efficiency and High Dimensional Case},
  author = {Di Wang and Marco Gaboardi and Jinhui Xu},
  journal= {arXiv preprint arXiv:1802.04085},
  year   = {2018}
}

备注

Add a new section on high dimensional case