中文

固定置信度下差分隐私最佳臂识别的复杂度

机器学习 2023-09-06 v1 密码学与安全 机器学习 统计理论 统计理论

摘要

最佳臂识别(BAI)问题正日益用于数据敏感应用,例如设计自适应临床试验、调优超参数以及开展用户研究等。受这些应用所引发的数据隐私问题驱动,我们研究了在 ϵ\epsilon-全局差分隐私(DP)下的固定置信度 BAI 问题。首先,为量化隐私代价,我们推导了任意满足 ϵ\epsilon-全局 DP 的 δ\delta-正确 BAI 算法的样本复杂度下界。我们的下界表明,依据隐私预算 ϵ\epsilon 存在两种隐私机制。在高隐私机制(小 ϵ\epsilon)下,困难程度取决于隐私与一种新颖的信息论量(称为全变分特征时间)的耦合效应。在低隐私机制(大 ϵ\epsilon)下,样本复杂度下界退化为经典的非隐私下界。其次,我们提出 AdaP-TT,即 Top Two 算法的 ϵ\epsilon-全局 DP 变体。AdaP-TT 以依赖于臂的自适应轮次运行,并添加拉普拉斯噪声以确保良好的隐私-效用权衡。我们推导了 AdaP-TT 样本复杂度的渐近上界,该上界在高隐私机制下与下界相差仅乘性常数。最后,我们提供了 AdaP-TT 的实验分析以验证理论结果。

关键词

引用

@article{arxiv.2309.02202,
  title  = {On the Complexity of Differentially Private Best-Arm Identification with Fixed Confidence},
  author = {Achraf Azize and Marc Jourdan and Aymen Al Marjani and Debabrota Basu},
  journal= {arXiv preprint arXiv:2309.02202},
  year   = {2023}
}