基于Edgeworth展开的高斯差分隐私紧组合界
机器学习
2020-03-26 v2 人工智能
密码学与安全
机器学习
统计方法学
摘要
包含敏感信息的数据集常被许多算法顺序分析。这引发了差分隐私中一个基本问题：整体隐私界在组合下如何退化。为解答此问题，我们在近期提出的f-差分隐私框架下，利用Edgeworth展开引入了一族解析且紧的组合隐私界。与现有使用中心极限定理的组合定理相比，我们的新组合隐私界借助Edgeworth展开更精细的近似精度获得了改进的紧性。我们的方法易于实现，且对任意组合次数计算高效。这些新界的优越性通过渐近误差分析以及在量化用于训练私有深度神经网络的带噪随机梯度下降的整体隐私保证中的应用得到证实。
引用
@article{arxiv.2003.04493,
title = {Sharp Composition Bounds for Gaussian Differential Privacy via Edgeworth Expansion},
author = {Qinqing Zheng and Jinshuo Dong and Qi Long and Weijie J. Su},
journal= {arXiv preprint arXiv:2003.04493},
year = {2020}
}