利用分布隐私机制保护数据集的全局属性
密码学与安全
2023-04-11 v2 计算机与社会
机器学习
摘要
我们考虑确保数据集众多记录聚合所得属性的机密性问题。此类属性可编码敏感信息（如商业秘密或人口统计数据），且涉及与文献中通常讨论的个体记录隐私不同的数据保护概念。本文展示了如何应用分布隐私框架来形式化此类数据机密性。我们将 Pufferfish 隐私中的 Wasserstein 机制与属性隐私中的高斯机制扩展至该框架，进而分析其底层数据假设及如何放宽这些假设。随后，我们通过实验评估这些机制的隐私-效用权衡，并将其应用于一种针对数据集全局属性的实际属性推断攻击。结果表明，我们的机制确实能降低该攻击的有效性，同时提供的效用显著优于粗略的组差分隐私基线。因此，我们的工作为保护数据集全局属性的理论机制及其实践评估奠定了基础。
引用
@article{arxiv.2207.08367,
title = {Protecting Global Properties of Datasets with Distribution Privacy Mechanisms},
author = {Michelle Chen and Olga Ohrimenko},
journal= {arXiv preprint arXiv:2207.08367},
year = {2023}
}