基于混合与扩散机制的隐私放大
机器学习
2019-10-29 v2 密码学与安全
概率论
机器学习
摘要
差分隐私中的一个基本结论指出，机制的隐私保证由其输出的任意后处理所保持。在本文中，我们研究在何种条件下随机后处理可以放大机制的隐私。通过将后处理解释为一个 Markov 算子的应用，我们首先根据该算子所定义的 Markov 过程的均匀混合性质给出一系列放大结果。接着我们提供基于耦合论证的放大界，其可应用于不存在均匀混合的情况。最后，我们引入一类基于扩散过程的新机制家族，其在后处理下封闭，并通过一种新颖的热流论证分析其隐私。在应用方面，我们推广了 Noisy SGD 中“迭代隐私放大”的分析，并表明其在强凸情形下可实现指数级改进，且研究了一种基于 Ornstein-Uhlenbeck 扩散过程的机制，该机制在有界输入上包含具有最优后处理的高斯机制作为特例。
引用
@article{arxiv.1905.12264,
title = {Privacy Amplification by Mixing and Diffusion Mechanisms},
author = {Borja Balle and Gilles Barthe and Marco Gaboardi and Joseph Geumlek},
journal= {arXiv preprint arXiv:1905.12264},
year = {2019}
}