你的隐私取决于他人：个体差分隐私中的合谋漏洞
密码学与安全
2026-01-21 v1 人工智能
机器学习
摘要
个体差分隐私（iDP）承诺用户掌控自身隐私，但这一承诺在实践中可能被打破。我们揭示了基于采样的 iDP 机制中一个此前被忽视的漏洞：尽管符合 iDP 保证，个体的隐私风险并非仅由其自身的隐私预算决定，而在很大程度上取决于所有其他数据贡献者的隐私选择。这在个体隐私控制的承诺与风险由集体决定的系统现实之间造成了错位。我们通过实验证明，某些隐私偏好分布会无意中放大个体的隐私风险，即使其形式化保证已得到满足。此外，这种超额风险提供了一个可利用的攻击向量。中心化对手或一组合谋对手可故意选择隐私预算，以放大目标个体的漏洞。最重要的是，该攻击完全在 DP 的保证范围内运作，从而隐藏了这种超额漏洞。我们的实证评估表明，针对 62% 的目标个体的攻击均获成功，大幅增加了其成员推理的易感性。为缓解此问题，我们提出 -iDP，一种隐私契约，其利用 -散度为用户提供其超额漏洞的严格上限，同时为机制设计提供灵活性。我们的发现暴露了当前范式面临的一项根本性挑战，要求重新评估 iDP 系统的设计、审计、沟通与部署方式，以使超额风险透明且可控。
引用
@article{arxiv.2601.12922,
title = {Your Privacy Depends on Others: Collusion Vulnerabilities in Individual Differential Privacy},
author = {Johannes Kaiser and Alexander Ziller and Eleni Triantafillou and Daniel Rückert and Georgios Kaissis},
journal= {arXiv preprint arXiv:2601.12922},
year = {2026}
}