具有事后保证的隐私超参数调优
密码学与安全
2025-08-22 v1 数据结构与算法
摘要
差分隐私（DP）文献中的传统方法以“隐私优先”的视角来表述隐私-效用权衡：对于预先确定的隐私水平，可实现一定的效用。然而，实践者通常遵循“效用优先”的范式，优先考虑期望的效用水平，然后确定相应的隐私成本。Wu 等人[2019]通过引入事后差分隐私（ex-post DP），正式开启了对此“效用优先”视角的研究。他们证明，通过添加相关的拉普拉斯噪声并按需逐步减少噪声，可以生成一系列精度递增的私有参数估计值，且隐私成本仅归因于所发布的噪声最小的迭代结果。这催生了一种拉普拉斯机制变体，能以最小的隐私损失实现指定的效用。然而，他们的工作以及 Whitehouse 等人[2022]的类似发现，主要局限于基于拉普拉斯或高斯噪声的简单机制。在本文中，我们显著推广了这些结果。特别是，我们将 Wu 等人[2019]以及 Liu 和 Talwar [2019]的工作扩展到支持任意私有估计器序列，其产生的隐私预算最多为原始预算的两倍。此外，我们证明了对这些估计器进行超参数调优，包括选择最优隐私预算，可以在不增加额外隐私成本的情况下完成。最后，我们将结果扩展到事后 Rényi 差分隐私，进一步拓宽了效用优先隐私机制的适用范围。
引用
@article{arxiv.2508.15183,
title = {Private Hyperparameter Tuning with Ex-Post Guarantee},
author = {Badih Ghazi and Pritish Kamath and Alexander Knop and Ravi Kumar and Pasin Manurangsi and Chiyuan Zhang},
journal= {arXiv preprint arXiv:2508.15183},
year = {2025}
}