针对均值与方差估计的本地差分隐私协议的细粒度投毒攻击
密码学与安全
2023-03-13 v4
摘要
尽管本地差分隐私(LDP)保护个体用户数据不被不可信数据管理者推断，近期研究表明攻击者可从用户侧发起数据投毒攻击，将精心伪造的虚假数据注入LDP协议，以最大程度地偏斜数据管理者的最终估计。本文进一步推进该认知，提出一种新的细粒度攻击，使攻击者能微调并同时操纵均值与方差估计——它们是许多真实应用的流行分析任务。为实现此目标，攻击利用LDP特性将伪造数据注入本地LDP实例的输出域。我们称该攻击为输出投毒攻击(OPA)。我们观察到一种安全-隐私一致性：较小的隐私损失增强了LDP的安全性，这与先前工作已知的安私-隐私权衡相矛盾。我们进一步研究该一致性并揭示LDP数据投毒攻击威胁图景的更整体视图。我们针对一种直观提供错误输入给LDP的基线攻击全面评估了我们的攻击。实验结果显示OPA在三个真实数据集上优于基线。我们还提出一种新防御方法，能从受污染数据收集恢复结果精度，并为安全LDP设计提供见解。
引用
@article{arxiv.2205.11782,
title = {Fine-grained Poisoning Attack to Local Differential Privacy Protocols for Mean and Variance Estimation},
author = {Xiaoguang Li and Ninghui Li and Wenhai Sun and Neil Zhenqiang Gong and Hui Li},
journal= {arXiv preprint arXiv:2205.11782},
year = {2023}
}