基于逆 Weierstrass私有随机梯度下降的局部私有示例学习

Jean Dufraiche; Paul Mangold; Michaël Perrot; Marc Tommasi

基于逆 Weierstrass私有随机梯度下降的局部私有示例学习

机器学习 2026-02-19 v1 密码学与安全机器学习

作者: Jean Dufraiche , Paul Mangold , Michaël Perrot , Marc Tommasi

摘要

在非互动局部差分隐私 (LDP) 下一次性完全释放数据可实现数据完全复用,但随后的噪声可能在后续分析中引入偏差.本文利用 Weierstrass 变换刻画这种偏差.我们证明逆变换导致偏差校正方法,用于计算在 LDP 下发布的示例上非线性函数的无偏估计.我们随后构建一种新型随机梯度下降算法,称为逆 Weierstrass 私有 SGD (IWP-SGD).它以 $\mathcal{O}(1/n)$ 的速率收敛于真实 population risk 最小化者,其中 $n$ 为示例数量.我们在使用合成数据和真实数据进行二进制分类任务上经验验证了 IWP-SGD.

关键词

局部差分隐私 Weierstrass 变换随机梯度下降偏差校正二进制分类无偏估计

引用

@article{arxiv.2602.16436,
  title  = {Learning with Locally Private Examples by Inverse Weierstrass Private Stochastic Gradient Descent},
  author = {Jean Dufraiche and Paul Mangold and Michaël Perrot and Marc Tommasi},
  journal= {arXiv preprint arXiv:2602.16436},
  year   = {2026}
}

备注

30 pages, 8 figures

基于逆 Weierstrass私有随机梯度下降的局部私有示例学习

摘要

关键词

引用

备注

相关论文