理论无误，实践中出错：差分隐私库的灰盒审计
密码学与安全
2026-02-20 v1
摘要
差分隐私（Differential Privacy，DP）实现因错误而知名，细微的错误常常会使理论保证失效。现有的验证方法往往不够实际：形式化工具过于严格，而黑箱统计性审计对于复杂的管道而言不可行，且无法定位错误源。本文引入 Re:cord-play，一种灰盒审计范式，通过对 DP 算法的内部状态进行检查来实现。该方法通过在具有相同随机性的相邻数据集上运行仪表化算法，直接检查数据依赖的控制流，并通过比较声明灵敏度与经验测量的内部输入距离，从而对灵敏度违规进行具体的否定。我们将其推广为 Re:cord-play-sample，一种完整的统计性审计，可隔离并测试每个组件，包括不可信组件。我们通过审计 12 个开源库（包括 SmartNoise SDK、Opacus 和 Diffprivlib），并发现 13 处影响其理论保证的隐私违规，表明我们的新型测试方法既有效又必要。我们将该框架发布为开源 Python 软件包，从而使 DP 开发者能够轻松地将有效且计算成本低、无缝集成的隐私测试纳入其软件开发生命周期。
引用
@article{arxiv.2602.17454,
title = {Privacy in Theory, Bugs in Practice: Grey-Box Auditing of Differential Privacy Libraries},
author = {Tudor Cebere and David Erb and Damien Desfontaines and Aurélien Bellet and Jack Fitzsimons},
journal= {arXiv preprint arXiv:2602.17454},
year = {2026}
}
备注
2026.3 PoPETS