一种用于紧致隐私核算的随机化方法
密码学与安全
2023-11-22 v2 数据结构与算法
机器学习
摘要
在差分隐私(DP)中,界定组合上的隐私泄漏(即隐私核算)是一个关键挑战。隐私参数( 或 )通常易于估计但难以界定。本文提出一种称为估计-验证-发布(EVR)的新型差分隐私范式,该范式通过将隐私参数的估计值转化为形式化保证,解决了在DP组合中提供隐私参数严格上界的难题。EVR范式首先估计机制的隐私参数,然后验证其是否满足该保证,最后根据验证结果发布查询输出。EVR的核心组件是隐私验证。我们利用蒙特卡洛(MC)技术开发了随机化隐私验证器。此外,我们提出了一种基于MC的DP核算器,在准确性和效率上优于现有DP核算技术。我们的实证评估表明,新提出的EVR范式改善了隐私保护机器学习的效用-隐私权衡。
引用
@article{arxiv.2304.07927,
title = {A Randomized Approach for Tight Privacy Accounting},
author = {Jiachen T. Wang and Saeed Mahloujifar and Tong Wu and Ruoxi Jia and Prateek Mittal},
journal= {arXiv preprint arXiv:2304.07927},
year = {2023}
}
备注
NeurIPS 2023