对R\'enyi差分隐私机器学习的最优审计保证
机器学习
2026-05-22 v1 密码学与安全
信息论
math.IT
摘要
我们研究针对声称R\'enyi差分隐私（RDP）保证的机器学习算法的黑盒审计。我们引入基于假设检验的审计框架，直接估计相邻执行之间的R\'enyi散度，采用Donsker-Varadhan（DV）变分估计器。我们的分析通过类受限DV估计器给出RDP审计的显式且非渐近置信区间，将统计估计误差与算法隐私泄露分离。我们证明了匹配的次优下界，表明在对数因子范围内，我们的样本复杂度保证是信息论上最优的，从而在DV估计器上建立了对RDP审计的首个最优保证。实验上，我们在完全黑盒设置下实现了对DP-SGD的审计。对于MNIST和CIFAR-10，以及各种隐私情景，我们的审计器相较于现有最先进的黑盒方法在整体上显著提高了经验RDP下界，尤其是在小到适中的R\'enyi阶数上，这是最具挑战性的准确审计区域。
引用
@article{arxiv.2605.21938,
title = {Optimal Guarantees for Auditing R\'enyi Differentially Private Machine Learning},
author = {Benjamin D. Kim and Lav R. Varshney and Daniel Alabi},
journal= {arXiv preprint arXiv:2605.21938},
year = {2026}
}
备注
28 pages, 3 figures