中文

私有保序回归

机器学习 2022-10-28 v1 密码学与安全 机器学习

摘要

在本文中,我们考虑保序回归的差分隐私 (DP) 算法问题。对于偏序集 (poset) X\mathcal{X} 上的最一般保序回归问题以及任何 Lipschitz 损失函数,我们得到了一种纯 DP 算法,在给定 nn 个输入点时,其预期超额经验风险约为 width(X)logX/n\mathrm{width}(\mathcal{X}) \cdot \log|\mathcal{X}| / n,其中 width(X)\mathrm{width}(\mathcal{X}) 是偏序集的宽度。相反,我们还得到了一个约为 (width(X)+logX)/n(\mathrm{width}(\mathcal{X}) + \log |\mathcal{X}|) / n 的近乎匹配的下界,该下界即使对于近似 DP 算法也成立。此外,我们证明了在不利用偏序集任何进一步结构的情况下,上述界限本质上是所能获得的最佳界限。在全序集的特殊情况下,对于 1\ell_122\ell_2^2 损失,我们的算法可以在近线性运行时间内实现;我们还将该算法扩展到了对输出函数有额外结构约束的私有保序回归问题。

关键词

引用

@article{arxiv.2210.15175,
  title  = {Private Isotonic Regression},
  author = {Badih Ghazi and Pritish Kamath and Ravi Kumar and Pasin Manurangsi},
  journal= {arXiv preprint arXiv:2210.15175},
  year   = {2022}
}

备注

Neural Information Processing Systems (NeurIPS), 2022