局部隐私核算中以实际知识增益作为隐私损失
密码学与安全
2025-05-01 v3
摘要
本文建立了局部差分隐私（LDP）与对查询对象特定知识学习的全局限制之间的等价性。然而，LDP查询的输出并不必然要求提供等于学习上限精确量的知识。LDP保证可能高估分析者从某些输出中获得的知识量。为解决此问题，推导了实际知识增益的最小上界，称之为已实现隐私损失（realized privacy loss）。该度量也被证明可作为定量信息流中实际g-泄漏的上界。LDP保证与已实现隐私损失之间的差距促使探索针对完全自适应组合更高效隐私核算，其中敌手基于先前结果自适应地选择查询。引入贝叶斯隐私过滤器（Bayesian Privacy Filter）持续接受查询，直到组合查询的已实现隐私损失等于该组合的LDP保证，从而充分利用对象的隐私预算。已实现隐私损失还作为组合查询的隐私里程计，使剩余隐私预算能准确表示接受新查询的能力。此外，设计了分支定界方法以计算针对连续值查询时的已实现隐私损失。实验结果表明，在组合线性和逻辑回归时，贝叶斯隐私过滤器优于基础组合一到四倍。
引用
@article{arxiv.2307.08159,
title = {Actual Knowledge Gain as Privacy Loss in Local Privacy Accounting},
author = {Mingen Pan},
journal= {arXiv preprint arXiv:2307.08159},
year = {2025}
}
备注
Accepted in the 2025 IEEE 38th Computer Security Foundations Symposium (CSF)