用 $f$-差分隐私打破通信-隐私-精度权衡
密码学与安全
2024-02-02 v3 信息论
机器学习
math.IT
摘要
我们考虑一个联邦数据分析问题，其中服务器协调多个具有隐私顾虑且通信能力受限的用户的协作数据分析。常用的压缩方案在提高通信效率的同时给本地数据引入了信息损失，而此类离散值机制是否提供任何隐私保护仍是一个开放问题。本文通过 -差分隐私（DP）的视角研究具有有限输出空间的离散值机制的本地差分隐私保证。更具体地，我们推导了多种离散值机制（包括为保护隐私而提出的二项噪声与二项机制，以及为数据压缩而提出的基于符号的方法）的紧致 -DP 保证的闭式表达式，从而推进了现有文献。我们进一步研究了稀疏化带来的隐私放大并提出一种三元随机压缩器。通过利用压缩实现隐私放大，我们在分布式均值估计这一流行用例中消除了精度（以均方误差计）对通信成本的依赖，从而打破了隐私、通信与精度之间的三方权衡。最后，我们讨论了所提机制的拜占庭鲁棒性及其在联邦学习中的应用。
引用
@article{arxiv.2302.09624,
title = {Breaking the Communication-Privacy-Accuracy Tradeoff with $f$-Differential Privacy},
author = {Richeng Jin and Zhonggen Su and Caijun Zhong and Zhaoyang Zhang and Tony Quek and Huaiyu Dai},
journal= {arXiv preprint arXiv:2302.09624},
year = {2024}
}