基于α-信息论的隐私看门狗与最优隐私化方案

本文提出了一种用于数据隐私的$\alpha$-提升(lift)度量，并确定了在看门狗方法中最小化$\alpha$-提升的最优隐私化方案。为发布与敏感信息$S$相关的数据$X$，比值$l(s,x) = \frac{p(s|x)}{p(s)}$表示关于$S$后验信念的“提升”并量化数据隐私。$\alpha$-提升被提议为提升的$L_\alpha$范数：$\ell_{\alpha}(x) = \| (\cdot,x) \|_{\alpha} = (E[l(S,x)^\alpha])^{1/\alpha}$。这是一个可调度量：当$\alpha < \infty$时，每个提升按其出现在数据集中的似然(关于边缘概率$p(s)$)加权；对于$\alpha = \infty$，$\alpha$-提升退化为已有的最大提升。为生成净化数据$Y$，我们采用基于$\alpha$-提升的隐私看门狗方法：获得包含所有满足$\ell_{\alpha}(x) > e^{\epsilon}$的$x$的集合$\mathcal{X}_{\epsilon}$；对所有$x \in \mathcal{X}_{\epsilon}$施加随机化$r(y|x)$，而所有其他$x \in \mathcal{X} \setminus \mathcal{X}_{\epsilon}$直接发布。对于所得的$\alpha$-提升$\ell_{\alpha}(y)$，表明Sibson互信息$I_{\alpha}^{S}(S;Y)$与$E[ \ell_{\alpha}(y)]$成正比。我们进一步使用最坏情况$\alpha$-提升：$\max_{y} \ell_{\alpha}(y)$定义了更强的度量$\bar{I}_{\alpha}^{S}(S;Y)$。我们证明，最小化$I_{\alpha}^{S}(S;Y)$和$\bar{I}_{\alpha}^{S}(S;Y)$的最优随机化$r^*(y|x)$是$X$-不变的，即对任意$y \in \mathcal{X}_{\epsilon}$上的概率分布$R$，有$r^*(y|x) = R(y), \forall x\in \mathcal{X}_{\epsilon}$。数值实验表明，$\alpha$-提升可在隐私-效用权衡中提供灵活性。