超越校准点：差分隐私中的机制比较
密码学与安全
2025-05-06 v3 人工智能
机器学习
统计理论
机器学习
统计理论
摘要
在差分隐私(DP)机器学习中，DP机制的隐私保证通常基于单个(ε, δ)对进行报告和比较。这种做法忽略了即使共享给定(ε, δ)的机制之间，其DP保证也可能存在显著差异，并可能引入未被发现的隐私漏洞。这促使我们需要稳健、严格的方法来比较此类情况下的DP保证。在此，我们引入了机制间的Δ-散度，它从(ε, δ)、f-DP以及一种新提出的贝叶斯解释的角度，量化了选择一种机制而非另一种机制的最坏情况下的额外隐私风险。此外，作为Blackwell定理的推广，它拥有坚实的决策理论基础。通过应用实例，我们展示了我们的技术可以促进知情决策，并揭示当前对隐私风险理解中的空白，因为当前DP-SGD的实践常常导致选择具有高额外隐私风险的机制。
引用
@article{arxiv.2406.08918,
title = {Beyond the Calibration Point: Mechanism Comparison in Differential Privacy},
author = {Georgios Kaissis and Stefan Kolek and Borja Balle and Jamie Hayes and Daniel Rueckert},
journal= {arXiv preprint arXiv:2406.08918},
year = {2025}
}
备注
ICML 2024