重访差分隐私线性回归:无界域下的最优与自适应预测及估计
机器学习
2018-07-10 v2 机器学习
统计方法学
摘要
我们重访差分隐私约束下的线性回归问题。通过整合文献中已有的各部分工作,我们厘清了特征、标签与系数域在优化误差与估计误差中的正确依赖关系,从而揭示了差分隐私在统计估计与统计学习中的微妙代价。此外,我们对两种现有 DP 算法:(a) 后验采样、(b) 充分统计量扰动,提出了简单修改,并表明它们可升级为能够利用数据依赖量、且对每一个实例都近乎最优表现的**自适应**算法。我们在模拟数据与真实数据上进行了大量实验,结果表明在我们测试的近 36 个数据集上,AdaOPS 与 AdaSSP 几乎均优于现有技术。
引用
@article{arxiv.1803.02596,
title = {Revisiting differentially private linear regression: optimal and adaptive prediction & estimation in unbounded domain},
author = {Yu-Xiang Wang},
journal= {arXiv preprint arXiv:1803.02596},
year = {2018}
}
备注
Uncertainty in Artificial Intelligence (UAI-2018), Monterey, CA