中文

面向稀疏分类学习的差分隐私方法

机器学习 2019-08-05 v1 密码学与安全 机器学习

摘要

本文提出了凸与非凸稀疏分类方法的差分隐私版本。基于交替方向乘子法(ADMM)算法,我们将稀疏问题的求解转化为多步迭代过程,然后在稳定步骤中加入指数噪声以实现隐私保护。利用差分隐私的后处理保持性质,即使原问题不稳定,所提方法仍满足 ϵ\epsilon-差分隐私。此外,我们给出了差分隐私分类算法的理论隐私界。具体而言,我们算法的隐私界由算法迭代次数、隐私参数、损失函数参数、ADMM预选参数以及数据规模控制。最后我们将该框架应用于带 L1L_1 正则化的逻辑回归与带 L1/2L_{1/2} 正则化的逻辑回归。数值实验表明,我们的方法在敏感数据分析中既有效又高效。

关键词

引用

@article{arxiv.1908.00780,
  title  = {Differential Privacy for Sparse Classification Learning},
  author = {Puyu Wang and Hai Zhang},
  journal= {arXiv preprint arXiv:1908.00780},
  year   = {2019}
}