中文

“我天生就相信它有效”:探究面向差分隐私开源库的用户心智模型

人机交互 2024-10-15 v1

摘要

差分隐私(Differential Privacy, DP)是隐私保护数据科学的有前景的框架,但近期研究揭示了将这一理论框架引入实践的挑战。特别是在开源差分隐私数据分析库的语境中,这些挑战尤为突出,这些库正在成为帮助数据管理者和分析师构建其应用的隐私保护数据管道的工具。尽管对此类库投入了大量资源,但我们仍需进一步探究这些库在促进DP理解与信任方面的作用,以及开源库设计如何揭示在实践中创建可信数据基础设施的挑战。在本研究中,我们采用定性方法和心智模型方法,分析开源DP库的设计所使用的概念模型与用户所持有的DP心智模型之间的差异。通过包含5位开源DP库开发人员的形式化访谈和17位数据分析师的用户研究,我们发现DP库常常难以在开发人员和用户心智模型之间架起桥梁。特别是,我们突出了DP库在维持严格的DP实现与促进用户交互之间的张力。我们通过提供实际建议来进一步发展DP库。

关键词

引用

@article{arxiv.2410.09721,
  title  = {"I inherently just trust that it works": Investigating Mental Models of Open-Source Libraries for Differential Privacy},
  author = {Patrick Song and Jayshree Sarathy and Michael Shoemate and Salil Vadhan},
  journal= {arXiv preprint arXiv:2410.09721},
  year   = {2024}
}

备注

39 Pages, 12 Figures. To be published in CSCW 2024