基于对抗样本的方法用于最终模型-only场景下的更紧密隐私审计
密码学与安全
2025-02-25 v2 机器学习
摘要
在最终模型设置下审计差分隐私随机梯度下降 (DP-SGD) 具有挑战性，常常导致经验下界显著松�于理论隐私保证。我们引入一种新方法，通过基于损失的输入空间审计制造最坏情况对抗样本，以实现更紧密的经验下界，且无需额外假设。我们的方法超越了传统的 canary-based 启发式方法，在最终模型-only 场景中效果显著。具体而言，在理论隐私预算为 时，我们的方法实现了 的经验下界，而基准方法在 MNIST 上为 。我们的工作为差分隐私机器学习中的可靠且准确的隐私审计提供了实用框架。
引用
@article{arxiv.2412.01756,
title = {Adversarial Sample-Based Approach for Tighter Privacy Auditing in Final Model-Only Scenarios},
author = {Sangyeon Yoon and Wonje Jeung and Albert No},
journal= {arXiv preprint arXiv:2412.01756},
year = {2025}
}
备注
10 pages, NeurIPS (SFLLM Workshop)