属性隐私：框架与机制
密码学与安全
2021-05-13 v2 计算机与社会
数据结构与算法
机器学习
机器学习
摘要
确保训练数据的隐私是一个日益受到关注的问题，因为许多机器学习模型都是在机密且潜在敏感的数据上训练的。大量注意力已投入到在大型数据集分析过程中保护个体隐私的方法上。然而在许多场景中，数据集的全局属性也可能敏感（例如医院中的死亡率，而非数据集中特定患者的存在）。在这项工作中，我们脱离个体隐私，开启属性隐私的研究，其中数据拥有者关注在分析过程中揭示整个数据集的敏感属性。我们提出了在全局属性可能需要被保护的两种相关情形中刻画属性隐私的定义：（1）特定数据集的属性，以及（2）数据集所采样自的底层分布的参数。我们还提供了两种高效机制和一种低效机制，可满足这些设定下的属性隐私。我们的结果基于一种对 Pufferfish 框架的新颖使用，以考虑数据中跨属性的相关性，从而解决了 Kifer 等人（2014）留下的“为一般聚合秘密开发 Pufferfish 实例与算法的挑战性问题”。
引用
@article{arxiv.2009.04013,
title = {Attribute Privacy: Framework and Mechanisms},
author = {Wanrong Zhang and Olga Ohrimenko and Rachel Cummings},
journal= {arXiv preprint arXiv:2009.04013},
year = {2021}
}