针对键值数据本地差分隐私协议的投毒攻击

本地差分隐私(LDP)协议使不可信服务器能够执行保护隐私的联邦数据分析。针对类别数据、数值数据和键值数据等不同类型的数据，已开发了多种 LDP 协议。由于其分布式设置，LDP 协议从根本上易受投毒攻击，即虚假用户通过向服务器发送精心构造的数据来操纵服务器的分析结果。然而，现有的投毒攻击集中于针对类别数据和数值数据等简单数据类型的 LDP 协议，而更先进数据类型(如键值数据)的 LDP 协议安全性尚待探索。本文旨在通过引入针对键值数据 LDP 协议的新颖投毒攻击来弥补这一空白。在此类 LDP 协议中，服务器旨在同时估计若干用户中每个键的频率和均值，每个用户拥有一组键值对。我们的投毒攻击旨在通过一些虚假用户向服务器发送精心构造的数据，来同时最大化某些攻击者选定的目标键的频率和均值。具体而言，由于我们的攻击有两个目标，我们将其表述为一个双目标优化问题。此外，我们提出了一种近似求解该双目标优化问题的方法，由此获得虚假用户应发送给服务器的最优构造数据。我们从理论和实证两方面展示了我们对三种键值数据 LDP 协议的攻击的有效性。我们还探索了两种针对我们攻击的防御手段，它们在某些场景下有效，但在其他场景下效果有限。我们的结果凸显了对抗我们投毒攻击的新防御手段的必要性。