中文

通过多阶段采样技术(MUST)增强隐私、效用与计算效率之间的权衡

机器学习 2024-11-05 v2 机器学习

摘要

将随机化算法应用于子集而非整个数据集可以增强隐私保证。我们提出了一类子采样方法“多阶段采样技术(MUST)”,用于差分隐私(DP)背景下的隐私放大(PA)。我们通过新引入的概念(包括强 vs 弱 PA 效应对齐的隐私配置)对几种两阶段 MUST 程序的 PA 效应和效用进行了全面分析。我们通过 Fourier 会计算法提供了 MUST 重复应用的隐私损失组合分析。我们的理论和实证结果表明,在 ϵ\epsilon 方面,MUST 提供了比常见的一阶段采样程序(包括 Poisson 采样、无放回采样和有放回采样)更强的 PA,而在 δ\delta 上的结果则因情况而异。我们的实验表明,在相似的隐私损失下,MUST 在隐私保护(PP)输出的效用和稳定性方面不劣于一阶段子采样方法,同时增强了需要对不同数据点进行复杂函数计算的算法的计算效率。当需要 DP 保证时,MUST 可以无缝集成到随机优化算法或涉及并行或同时子采样的程序中。

关键词

引用

@article{arxiv.2312.13389,
  title  = {Enhancing Trade-offs in Privacy, Utility, and Computational Efficiency through MUltistage Sampling Technique (MUST)},
  author = {Xingyuan Zhao and Ruyu Zhou and Fang Liu},
  journal= {arXiv preprint arXiv:2312.13389},
  year   = {2024}
}