LDPRecover:从对抗污染攻击中恢复局部差分隐私频率
密码学与安全
2024-07-11 v2
摘要
局部差分隐私(LDP)使不可信服务器能够在保护用户隐私的同时收集来自分布式用户的聚合统计数据,已在实践中广泛部署。然而,针对频率估计的LDP协议易受到污染攻击,攻击者可以通过操纵恶意用户发送的数据来污染聚合频率。因此,恢复被污染频率中准确聚合频率的挑战仍未解决。本文提出了LDPRecover一种方法,即使服务器不了解攻击细节,也能从污染攻击中恢复准确的聚合频率。在LDPRecover中,我们建立了一种真实频率估计器,从而在理论上引导服务器通过消除恶意用户数据的影响来恢复来自真实用户数据的聚合频率。由于服务器并不了解攻击,我们提出一种自适应攻击来统一现有攻击,并通过利用LDP协议的特性来学习恶意数据中的统计信息。将估计器和学习统计信息作为约束,我们将恢复聚合频率以接近真实频率的问题形式化为约束推断(CI)问题。因此,服务器可以通过最优求解此问题来获得准确的聚合频率。此外,LDPRecover可以作为一种频率恢复范式,通过将攻击细节整合为新的约束来提高CI问题中恢复聚合频率的准确性。我们在两个真实数据集、三个LDP协议以及无针对性和针对性污染攻击上的评估表明,LDPRecover在各种污染攻击下都既准确又广泛适用。
引用
@article{arxiv.2403.09351,
title = {LDPRecover: Recovering Frequencies from Poisoning Attacks against Local Differential Privacy},
author = {Xinyue Sun and Qingqing Ye and Haibo Hu and Jiawei Duan and Tianyu Wo and Jie Xu and Renyu Yang},
journal= {arXiv preprint arXiv:2403.09351},
year = {2024}
}
备注
This paper has been accepted by ICDE 2024