一种降低差分隐私差异性影响的简单实用方法
密码学与安全
2023-12-20 v1 机器学习
摘要
差分隐私机制已部署于多种具有重大社会影响的场景中（最显著的是美国人口普查局的应用）。由于所有差分隐私机制都涉及向统计查询结果添加噪声，它们必然会影响我们准确分析和从数据中学习的能力，实际上是在隐私与效用之间进行权衡。令人担忧的是，差分隐私对效用的影响在不同子群体之间可能存在显著差异。降低这种差异的一种简单方法是分层。首先为数据集中的每个群体（可能是若干受保护类别的交集）计算独立的隐私估计，然后通过适当重组这些群体估计来计算全局统计量的估计。我们的主要观察是，朴素分层通常能产生高精度的人群层面统计估计，而无需额外的隐私预算。我们从理论和实证两方面支持了这一观察。我们的理论结果聚焦于隐私均值估计问题，而实证结果则聚焦于隐私数据合成的大量实验，以证明分层在各种隐私机制上的有效性。总体而言，我们认为这种直接的方法提供了一个强有力的基线，未来关于降低差分隐私机制效用差异的研究应以此为比较标准。
引用
@article{arxiv.2312.11712,
title = {A Simple and Practical Method for Reducing the Disparate Impact of Differential Privacy},
author = {Lucas Rosenblatt and Julia Stoyanovich and Christopher Musco},
journal= {arXiv preprint arXiv:2312.11712},
year = {2023}
}