面向隐私漏斗的高效差分凸求解器
机器学习
2024-05-02 v3 密码学与安全
信息论
math.IT
摘要
我们利用隐私漏斗(PF)方法的差分凸(DC)结构,提出了一种高效的求解器。所提出的 DC 分离产生了一个闭式更新方程,使其能够直接应用于已知和未知分布的设定。对于已知分布的情形,我们证明了所提出的非贪婪求解器的收敛性(局部稳定点),并从经验上表明它在刻画隐私-效用权衡方面优于现有方法。我们 DC 方法的见解同样适用于以有标签经验样本替代的未知分布设定。利用这些见解,与以往基于变分推断的求解器不同,我们的交替极小化求解器满足 PF 的基本马尔可夫关系。在实验中,我们使用 MNIST 和 Fashion-MNIST 数据集对所提出的求解器进行了评估。结果表明,在具有可比重建质量的情况下,与所对比的方法相比,攻击者从我们的压缩码聚类中遭受的预测误差更高。最重要的是,与基线方法相反,我们的求解器在推断阶段独立于私有信息。
引用
@article{arxiv.2403.04778,
title = {An Efficient Difference-of-Convex Solver for Privacy Funnel},
author = {Teng-Hui Huang and Hesham El Gamal},
journal= {arXiv preprint arXiv:2403.04778},
year = {2024}
}