单次运行中差分隐私的审计效果能有多好？
机器学习
2026-02-23 v4 密码学与安全
摘要
近期审计机器学习算法隐私的方法通过在单次训练运行中同时对多个训练样本进行干预，提高了计算效率。Steinke 等人 (2024) 证明了单次运行审计确实给出了被审计算法真实隐私参数的下界，并给出了令人印象深刻的实证结果。他们的工作留下了一个开放问题：单次运行审计能以多高的精度揭示算法的真实隐私参数，以及该精度如何依赖于被审计的算法。在这项工作中，我们刻画了单次运行审计的最大可达效能，并表明其效能的关键障碍在于不同数据元素可观测效应之间的干扰。我们提出了新的概念性方法以最小化这一障碍，旨在改善真实机器学习算法的单次运行审计性能。
引用
@article{arxiv.2503.07199,
title = {How Well Can Differential Privacy Be Audited in One Run?},
author = {Amit Keinan and Moshe Shenfeld and Katrina Ligett},
journal= {arXiv preprint arXiv:2503.07199},
year = {2026}
}