具有无界协变量的差分隐私回归
密码学与安全
2022-02-24 v1 数据结构与算法
机器学习
机器学习
摘要
我们针对最小二乘拟合、二分类回归和具有无界协变量的线性回归这些经典回归设定，提供了计算高效的差分隐私算法。在我们工作之前，此类回归设定中的隐私约束是在协变量具有强先验边界的条件下研究的。我们考虑高斯边缘分布的情形，并将近期关于均值与协方差估计的差分隐私技术（Kamath et al., 2019; Karwa and Vadhan, 2018）推广到亚高斯情形。我们提供了一种新颖的技术分析，从而给出了针对上述经典回归设定的差分隐私算法。通过二分类回归这一情形，我们刻画了被广泛研究的基础模型——逻辑回归与线性可分 SVM，学习到真实回归向量的无偏估计（至多相差一个缩放因子）。
引用
@article{arxiv.2202.11199,
title = {Differentially Private Regression with Unbounded Covariates},
author = {Jason Milionis and Alkis Kalavasis and Dimitris Fotakis and Stratis Ioannidis},
journal= {arXiv preprint arXiv:2202.11199},
year = {2022}
}