中文

简易差分隐私线性回归

机器学习 2023-03-20 v2 密码学与安全

摘要

线性回归是统计分析的基本工具。这促使了同时满足差分隐私的线性回归方法的发展,从而保证所学模型几乎不泄露用于构建它的任一数据点的信息。然而,现有的差分隐私方案假定终端用户能够轻易指定良好的数据边界与超参数。这两者都带来了显著的实际障碍。在本文中,我们研究了一种算法,其使用指数机制从一组非隐私回归模型集合中选取具有高通基深度的模型。给定用于训练 mm 个模型的 nndd 维样本,我们构造了一个使用近似 Tukey 深度的高效类比,其运行时间为 O(d2n+dmlog(m))O(d^2n + dm\log(m))。我们发现该算法在数据丰富设定下取得了强劲的经验性能,且无需数据边界或超参数选择。

关键词

引用

@article{arxiv.2208.07353,
  title  = {Easy Differentially Private Linear Regression},
  author = {Kareem Amin and Matthew Joseph and Mónica Ribero and Sergei Vassilvitskii},
  journal= {arXiv preprint arXiv:2208.07353},
  year   = {2023}
}

备注

This version corresponds to the camera-ready at ICLR 2023