通过标签推断攻击审计隐私机制
机器学习
2024-06-06 v1 密码学与安全
摘要
我们提出了用于审计标签隐私化机制的重构优势度量。重构优势度量衡量了当攻击者获得数据集中标签的私有版本（例如，来自不同用户的标签聚合或由随机响应输出的带噪标签）时，其推断未标记示例真实标签能力的提升程度，与仅观察特征向量且可能具有标签与特征之间相关性先验知识的攻击者相比。我们考虑两种此类审计度量：一种加法型，一种乘法型。它们纳入了文献中关于经验审计和差分隐私的先前方法。这些度量允许我们将各种提出的隐私化方案——部分满足差分隐私，部分不满足——置于同一基准下进行比较。我们在封装合理对抗环境的分布模型下对这些度量进行理论分析。我们还在真实和模拟预测任务中量化其行为。在各种实验设置下，我们发现差分隐私方案在隐私-效用权衡方面优于或匹配更常规的方法。
引用
@article{arxiv.2406.02797,
title = {Auditing Privacy Mechanisms via Label Inference Attacks},
author = {Róbert István Busa-Fekete and Travis Dick and Claudio Gentile and Andrés Muñoz Medina and Adam Smith and Marika Swanberg},
journal= {arXiv preprint arXiv:2406.02797},
year = {2024}
}