通过梯度提升改进差分隐私回归
机器学习
2023-05-23 v2 密码学与安全
摘要
我们重新审视了差分隐私平方误差线性回归问题。我们观察到，现有的最优方法对超参数的选择十分敏感——包括无法以与数据无关的方式最优设置的“裁剪阈值”。我们给出了一种基于梯度提升的隐私线性回归新算法。我们表明，当裁剪阈值固定为不知晓数据的情况下取值、而非以非隐私方式优化时，我们的方法始终优于先前的最优方法；并且即使我们以非隐私方式优化竞争算法的超参数，我们的算法也不逊于、且往往优于它们。除了一套全面的实验外，我们还给出了理论见解以解释这一行为。
引用
@article{arxiv.2303.03451,
title = {Improved Differentially Private Regression via Gradient Boosting},
author = {Shuai Tang and Sergul Aydore and Michael Kearns and Saeyoung Rho and Aaron Roth and Yichen Wang and Yu-Xiang Wang and Zhiwei Steven Wu},
journal= {arXiv preprint arXiv:2303.03451},
year = {2023}
}