差分隐私下的在线次模最大化

本文研究在基数约束与差分隐私（DP）下的在线次模最大化问题。在一个公共有限基集 $U$ 上定义的一串 $T$ 个次模函数在线到达，在每个时间步，决策者在观测到该函数之前必须从 $U$ 中选取至多 $k$ 个元素。决策者获得等于所选取集合上函数值的收益，并旨在学习一组集合序列以达成较低的期望遗憾。在全信息设定下，我们提出了一种 $(\varepsilon,\delta)$-DP 算法，其期望 $(1-1/e)$ 遗憾界为 $\mathcal{O}\left( \frac{k^2\log |U|\sqrt{T \log k/\delta}}{\varepsilon} \right)$。该算法包含 $k$ 个有序专家，它们在保持函数隐私的同时，学习整个时间范围内每个元素的最佳边际增量。在赌博机（bandit）设定下，我们提供了一种 $(\varepsilon,\delta+ O(e^{-T^{1/3}}))$-DP 算法，其期望 $(1-1/e)$ 遗憾界为 $\mathcal{O}\left( \frac{\sqrt{\log k/\delta}}{\varepsilon} (k (|U| \log |U|)^{1/3})^2 T^{2/3} \right)$。我们的算法包含 $k$ 个有序专家，它们在保持函数隐私的同时，学习在给定其前驱所选元素条件下最佳边际选取元素。该设定下隐私的一个挑战在于，专家 $i$ 的收益与反馈依赖于其 $i-1$ 个前驱所采取的行动。这种特定类型的信息泄漏不被后处理所覆盖，因此需要新的分析。我们用于在前馈中保持隐私的技术可能具有独立意义。