差分隐私数据的后处理：公平性视角
密码学与安全
2022-01-25 v1 人工智能
摘要
后处理免疫性是差分隐私的基本属性：它允许对差分隐私输出进行任意与数据无关的变换而不影响其隐私保证。后处理常规应用于数据发布应用，包括人口普查数据，这些数据随后被用于做出具有重大社会影响的分配决策。本文表明后处理会对个人或群体造成差异性影响，并分析了两个关键场景：差分隐私数据集的发布，以及此类隐私数据集用于下游决策（例如由美国人口普查数据告知的资金分配）。在第一种场景中，本文提出了传统后处理机制不公平性的紧界，为决策者提供量化其发布所引入差异性影响的独特工具。在第二种场景中，本文提出了一种新颖的后处理机制，在不同公平性度量下（近似）最优，要么大幅减少公平性问题，要么降低隐私成本。理论分析辅以基于人口普查数据的数值模拟。
引用
@article{arxiv.2201.09425,
title = {Post-processing of Differentially Private Data: A Fairness Perspective},
author = {Keyu Zhu and Ferdinando Fioretto and Pascal Van Hentenryck},
journal= {arXiv preprint arXiv:2201.09425},
year = {2022}
}