非私有预处理下的可证明隐私保护
密码学与安全
2024-06-24 v4 人工智能
机器学习
机器学习
摘要
在对差分隐私(Differentially Private, DP)机器学习流水线进行分析时,数据相关预处理所带来的潜在隐私开销在隐私核算中常常被忽视。本研究提出了一种通用框架,用于评估由非私有数据相关预处理算法所引入的额外隐私开销。该框架通过引入两种新的技术概念——一种称为平滑差分隐私(Smooth DP)的差分隐私变体以及预处理算法的有界敏感度——来建立整体隐私保证的上界。除通用框架外,我们还针对多种数据相关预处理算法(包括数据填补、量化、去重以及 PCA)与若干差分隐私算法组合使用的情况,给出了明确的整体隐私保证。值得注意的是,该框架实现简便,可直接集成至现有的差分隐私流水线之中。
引用
@article{arxiv.2403.13041,
title = {Provable Privacy with Non-Private Pre-Processing},
author = {Yaxi Hu and Amartya Sanyal and Bernhard Schölkopf},
journal= {arXiv preprint arXiv:2403.13041},
year = {2024}
}