面向离散分布学习的局部差分隐私随机响应

我们考虑如下设置：来自未知有限支撑分布 $\boldsymbol{p}$ 的机密独立同分布样本 $X_1,\dotsc,X_n$ 经过 $n$ 个离散隐私化信道（亦称机制）的副本，产生输出 $Y_1,\dotsc,Y_n$。该信道律保证 $\epsilon$ 的局部差分隐私。在给定隐私水平 $\epsilon$ 的条件下，应设计最优信道，使得基于信道输出 $Y_1,\dotsc,Y_n$ 的源分布估计尽可能快地收敛到精确值 $\boldsymbol{p}$。为此，我们研究三种分布距离度量趋于零的收敛性：$f$-散度、均方误差和全变差。我们推导了相应的归一化一阶收敛项（当 $n\to\infty$ 时），对于给定的目标隐私 $\epsilon$，这些项代表了为使估计精度达到与非随机化信道相同所需样本量应放大的经验因子。我们将隐私-保真度权衡问题表述为在隐私约束 $\epsilon$ 下最小化上述一阶项的问题。我们进一步识别出一个捕捉该权衡本质的标量量，并证明了该量的界与数据处理不等式。对于隐私-保真度权衡问题的若干具体实例，我们推导了最优权衡曲线的内界与外界。