数据投毒攻击下数值属性 LDP 协议的稳健性
密码学与安全
2025-01-28 v5
摘要
近期的研究表明，本地差分隐私（LDP）协议容易受到数据投毒攻击：攻击者可以利用 LDP 的特性，从一小部分受控的本地客户端发送精心构造的数据，从而操纵服务器上的最终估计值。这种脆弱性引发了关于 LDP 在敌对环境下的稳健性和可靠性的担忧。在本文中，我们对最先进的数值属性 LDP 协议的稳健性进行了系统调查，即具有分箱和一致性机制的分类频率预言机以及分布重构。我们通过攻击驱动的方法评估协议稳健性，并提出了用于跨协议攻击增益度量的新指标。结果表明，在服务器设置下，Square Wave 和基于 CFO 的协议相比于在用户设置下的基于 CFO 的协议对攻击具有更强的稳健性。我们的评估还揭示了 LDP 安全性与其固有设计选择之间的新关系。我们发现，基于本地哈希的 LDP 中的哈希域大小除了对效用的已知影响外，对协议稳健性也有深远影响。此外，我们提出了一种利用丰富的重构分布信息的零样本攻击检测。实验表明，我们的检测显著改进了现有方法，并能在具有挑战性的场景中有效识别数据操纵。
引用
@article{arxiv.2403.19510,
title = {On the Robustness of LDP Protocols for Numerical Attributes under Data Poisoning Attacks},
author = {Xiaoguang Li and Zitao Li and Ninghui Li and Wenhai Sun},
journal= {arXiv preprint arXiv:2403.19510},
year = {2025}
}