基于差分隐私边际的数据合成算法的统计理论
机器学习
2023-01-26 v2 机器学习
摘要
边际-based方法在美国国家标准与技术研究院（NIST）主办的合成数据竞赛中取得了令人瞩目的性能。为处理高维数据，合成数据的分布由概率图模型（例如贝叶斯网络）表示，而原始数据分布由一组低维边际近似。差分隐私（DP）通过对每个低维边际分布引入随机噪声来保证。尽管其在实践中性能良好，但边际-based方法的统计性质在文献中很少被研究。本文从统计角度研究基于贝叶斯网络（BN）的DP数据合成算法。我们为基于BN的算法建立了严格的精度保证，其中误差由全变分（TV）距离或 距离度量。结合下游机器学习任务，我们还推导了DP合成数据效用误差的上界。为完整起见，我们建立了对每一个 -DP合成数据生成器均成立的TV精度下界。
引用
@article{arxiv.2301.08844,
title = {Statistical Theory of Differentially Private Marginal-based Data Synthesis Algorithms},
author = {Ximing Li and Chendi Wang and Guang Cheng},
journal= {arXiv preprint arXiv:2301.08844},
year = {2023}
}