纯 $\varepsilon$-差分隐私随机凸优化的最优速率（重尾情形）

Andrew Lowy

纯 $\varepsilon$-差分隐私随机凸优化的最优速率（重尾情形）

机器学习 2026-05-06 v2 密码学与安全机器学习

作者: Andrew Lowy

摘要

我们研究了在纯 $\varepsilon$ -差分隐私（DP）下具有重尾梯度的随机凸优化（SCO）。我们不再假设损失的最坏情况利普希茨参数有界，而仅假设有界的 $k$ 阶矩。该假设允许无界的重尾随机梯度分布，并可得到更紧的超额风险界。先前的相关工作在该设定下刻画了 $\rho$ -零集中DP SCO的极小极大最优率（至多差对数因子），但纯 $\varepsilon$ -DP情形仍属开放问题。我们刻画了纯 $\varepsilon$ -DP重尾SCO的极小极大超额风险率（至多差对数因子）。我们的算法以高概率在多项式时间内达到该速率。此外，当最坏情况利普希茨参数多项式有界时，算法运行于确定性多项式时间。对于重要的结构化问题类——包括欧几里得球、椭球和多面体上的铰链/ReLU型和绝对值损失——即使在最坏情况利普希茨参数无穷大的情况下，我们仍实现了确定性多项式时间。我们的方法基于一种私有优化经验损失的利普希茨扩展的新型框架。我们补充了一个几乎匹配的高概率下界。

关键词

随机凸优化差分隐私重尾梯度超额风险极小极大最优率利普希茨扩展私有优化

引用

@article{arxiv.2604.06492,
  title  = {Optimal Rates for Pure $\varepsilon$-Differentially Private Stochastic Convex Optimization with Heavy Tails},
  author = {Andrew Lowy},
  journal= {arXiv preprint arXiv:2604.06492},
  year   = {2026}
}

纯 $\varepsilon$-差分隐私随机凸优化的最优速率（重尾情形）

摘要

关键词

引用

相关论文