大象不忘事：具有隐私预算状态连续性的差分隐私

当前差分隐私系统的实现要么缺乏对数据集上已消耗的全局隐私预算的跟踪支持，要么无法忠实地维护该预算的状态连续性。我们表明，未能维护隐私预算会使对手能够发起重放、回滚和分叉攻击——从而获得比安全系统所允许的多得多的查询答案。结果是，攻击者可以重建 DP 旨在保护的机密数据——即使 DP 代码在可信执行环境（TEE）中运行。我们提出了 ElephantDP，该系统旨在提供与全局 DP 模型中可信管理者相同的保证，尽管它处于不可信环境中。我们的系统依赖状态连续性模块来为隐私预算提供保护，并依赖 TEE 来忠实地执行 DP 代码并更新预算。为了提供安全性，我们的协议做出了多项设计选择，包括持久状态的内容以及预算更新与查询答案之间的顺序。我们证明了 ElephantDP 提供了活性（即，只要预算未超限，协议就可以从正确状态重启并响应查询）和 DP 机密性（即，攻击者对数据集的了解程度不高于其与可信管理者交互所能获得的程度）。我们的协议实现和评估使用 Intel SGX 作为 TEE 来运行 DP 代码，并使用 TEE 网络来维护状态连续性。与不安全的基线相比，我们观察到 1.1-3.2$\times$ 的开销，且对于复杂的 DP 查询具有较低的相对开销。