通过多阶段采样技术(MUST)增强隐私、效用与计算效率之间的权衡
机器学习
2024-11-05 v2 机器学习
摘要
将随机化算法应用于子集而非整个数据集可以增强隐私保证。我们提出了一类子采样方法“多阶段采样技术(MUST)”,用于差分隐私(DP)背景下的隐私放大(PA)。我们通过新引入的概念(包括强 vs 弱 PA 效应对齐的隐私配置)对几种两阶段 MUST 程序的 PA 效应和效用进行了全面分析。我们通过 Fourier 会计算法提供了 MUST 重复应用的隐私损失组合分析。我们的理论和实证结果表明,在 方面,MUST 提供了比常见的一阶段采样程序(包括 Poisson 采样、无放回采样和有放回采样)更强的 PA,而在 上的结果则因情况而异。我们的实验表明,在相似的隐私损失下,MUST 在隐私保护(PP)输出的效用和稳定性方面不劣于一阶段子采样方法,同时增强了需要对不同数据点进行复杂函数计算的算法的计算效率。当需要 DP 保证时,MUST 可以无缝集成到随机优化算法或涉及并行或同时子采样的程序中。
引用
@article{arxiv.2312.13389,
title = {Enhancing Trade-offs in Privacy, Utility, and Computational Efficiency through MUltistage Sampling Technique (MUST)},
author = {Xingyuan Zhao and Ruyu Zhou and Fang Liu},
journal= {arXiv preprint arXiv:2312.13389},
year = {2024}
}