中文

测量-观察-重测:一种用于差分隐私探索性分析的交互范式

密码学与安全 2024-06-05 v1 数据库 人机交互

摘要

差分隐私 (DP) 有潜力在敏感数据上实现隐私保护分析,但要求分析者在查询间明智地花费有限的“隐私损失预算” ϵ\epsilon。然而,进行探索性分析的分析者事先并不知道所有查询,且很少具备 DP 专业知识。因此,他们在分析前指定各查询的 ϵ\epsilon 分配的能力受到限制。为了支持分析者高效地花费 ϵ\epsilon,我们提出了一种新的交互分析范式,测量-观察-重测,其中分析者用有限的 ϵ\epsilon “测量”数据库,观察估计值及其误差,并根据需要用更多的 ϵ\epsilon 进行重测。我们在一个交互式可视化界面中实例化了该范式,允许分析者在总预算下花费递增的 ϵ\epsilon。为了观察分析者如何通过该界面与测量-观察-重测范式进行交互,我们进行了一项用户研究,将敏感数据参与者做出的 ϵ\epsilon 分配和发现的效用,与面临相同决策任务的理性智能体预期的分配和发现进行比较。我们发现参与者能够相对成功地使用该工作流,包括使用能够最大化 ϵ\epsilon 分配带来的可用效用的过半数的预算分配策略。他们相对于理性智能体的性能损失似乎更多是由其获取和报告信息的能力不足所驱动的,而非分配 ϵ\epsilon 的能力不足。

关键词

引用

@article{arxiv.2406.01964,
  title  = {Measure-Observe-Remeasure: An Interactive Paradigm for Differentially-Private Exploratory Analysis},
  author = {Priyanka Nanayakkara and Hyeok Kim and Yifan Wu and Ali Sarvghad and Narges Mahyar and Gerome Miklau and Jessica Hullman},
  journal= {arXiv preprint arXiv:2406.01964},
  year   = {2024}
}

备注

Published in IEEE Symposium on Security and Privacy (SP) 2024