迈向可靠且可泛化的差分隐私机器学习（扩展版）
机器学习
2025-08-22 v1 密码学与安全
摘要
近期涌现出大量提出新颖差分隐私机器学习（DPML）技术的研究论文。这些论文声称取得了新的最先进（SoTA）结果，并提供实证结果作为验证。然而，对于哪些技术最为有效，或者它们是否真正达到了所声称的效果，目前尚无共识。更复杂的是，代码库、数据集、方法论和模型架构的异质性使得不同方法的直接比较变得困难。在本文中，我们对近期研究文献中的 11 种不同 SoTA DPML 技术进行了可复现性与可复制性（R+R）实验。我们的调查结果各异：虽然一些方法经得起检验，但另一些方法在其初始实验条件之外测试时则表现不佳。我们还讨论了 DPML 可复现性所特有的挑战，包括由差分隐私噪声带来的额外随机性，以及如何应对这些挑战。最后，我们提炼出见解和最佳实践，以获得科学有效且可靠的结果。
引用
@article{arxiv.2508.15141,
title = {Towards Reliable and Generalizable Differentially Private Machine Learning (Extended Version)},
author = {Wenxuan Bao and Vincent Bindschaedler},
journal= {arXiv preprint arXiv:2508.15141},
year = {2025}
}
备注
This paper is published at ACSAC 2024. This is the extended version that includes an overview of the relevant literature. We open-source our codebase at: https://github.com/wenxuan-Bao/Reliable-and-Generalizable-DPML