针对基于有界噪声的披露控制算法的平均攻击

我们描述并评估了一种攻击，该攻击重构敏感数据集任意目标属性的直方图，该数据集只能通过一类我们称为有界扰动算法的特定现实隐私保护算法进行查询。此类算法的一个定义性性质是：通过添加分布在有界（可能未公开）范围内的零均值噪声来扰动查询答案。该算法的其他关键性质包括仅允许受限查询（通过在线接口强制实施）、抑制仅被少数个体满足的查询的答案（例如返回零作为答案），以及对被同一组个体满足的两个查询添加相同扰动（以阻止差分或平均攻击）。此类算法的一个现实例子是澳大利亚统计局（ABS）名为TableBuilder的在线工具所部署的算法，该工具允许用户创建澳大利亚人口普查数据的表格、图形与地图[30]。我们假设攻击者（例如好奇的分析师）通过接口获得对该算法的预言机访问权限。我们描述了针对该算法的两种攻击。两种攻击均基于精心构造评估为相同答案的（不同）查询。第一种攻击找出隐藏的扰动参数 $r$（若假设其非公开知识）。第二种攻击去除噪声以获得某（计数）自选查询的原始答案。我们还展示如何利用此攻击找出数据集中具有任意属性 $A$ 的目标属性值 $a$ 的个体数，进而找出所有属性值 $a_i \in A$ 的个体数。我们的攻击是（非正式的）信息恢复基本定律的实际说明，该定律指出“对过多统计量的过度精确估计会彻底破坏隐私”[9, 15]。