具有局部隐私约束的在线分布学习

我们研究了在局部差分隐私下具有无界标签集的在线条件分布估计问题。设 $\mathcal{F}$ 为具有无界标签集的分布值函数类。我们的目标是以在线方式估计一个未知函数 $f\in \mathcal{F}$，使得在时刻 $t$ 当提供上下文 $\boldsymbol{x}_t$ 时，在仅知道从 $f(\boldsymbol{x}_t)$ 采样的真实标签的私有化版本的情况下，我们可以在 KL 散度下生成 $f(\boldsymbol{x}_t)$ 的估计。最终目标是最小化有限时间跨度 $T$ 的累积 KL 风险。我们证明，在私有化标签的 $(\epsilon,0)$-局部差分隐私下，KL 风险的增长量为 $\tilde{\Theta}(\frac{1}{\epsilon}\sqrt{KT})$（至多相差多对数因子），其中 $K=|\mathcal{F}|$。这与 Wu 等人 (2023a) 针对有界标签集证明的 $\tilde{\Theta}(\sqrt{T\log K})$ 界形成鲜明对比。作为副产品，我们的结果恢复了 gopi 等人 (2020) 仅在批处理设定下建立的假设选择问题的近紧上界。