中文

关于连续观察与在线阈值查询的差分隐私下界

密码学与安全 2024-04-19 v2 机器学习

摘要

研究“隐私随时间之价”最基本的问题之一是Dwork 等人于2010年和Chan 等人于2010年引入的所谓私有计数器问题。该问题旨在跟踪随时间发生的事件数量,同时隐藏每单个事件的存在。具体而言,在每个时间步t[T]t\in[T]我们以在线方式学习到Δt0\Delta_t\geq 0个新事件发生,并必须给出估计ntj=1tΔjn_t\approx\sum_{j=1}^t \Delta_j。隐私要求是所有输出整体(跨越所有时间步)满足事件级差分隐私。此处的核心问题在于我们的误差如何依赖于总时间步数TT和总事件数nn。Dwork 等人于2015年给出上界为O(log(T)+log2(n))O\left(\log(T)+\log^2(n)\right),Henzinger 等人于2023年给出下界为Ω(min{logn,logT})\Omega\left(\min\{\log n, \log T\}\right)。我们给出新的下界Ω(min{n,logT})\Omega\left(\min\{n,\log T\}\right),该下界在TT的依赖上紧凑,且在稀疏情形下(即log2n=O(logT)\log^2 n=O(\log T))亦紧凑。我们的下界具有以下影响:•我们证明了该下界可推广至“在线阈值问题”,即在这些查询逐个呈现时私有地回答大量“分位查询”。这解决了Bun等人于2017年的开放问题。•我们的下界意味着,首次在私有在线学习者可获得的错误数与非私有在线学习者之间出现分离。这部分解决了Sanyal 和 Ramponi 在COLT'22上发表的开放问题。•我们的下界还导致了标准私有在线学习模型与最近提出的一种松弛变体(称为私有在线预测)之间第一次出现分离。

关键词

引用

@article{arxiv.2403.00028,
  title  = {Lower Bounds for Differential Privacy Under Continual Observation and Online Threshold Queries},
  author = {Edith Cohen and Xin Lyu and Jelani Nelson and Tamás Sarlós and Uri Stemmer},
  journal= {arXiv preprint arXiv:2403.00028},
  year   = {2024}
}